Arhitectura Ascunsă a Agenților AI: Ce Greșesc Toți

Dacă te-ai jucat recent cu agenți AI, ai observat probabil ceva ciudat: uneori urmează instrucțiuni complexe perfect, iar alteori ignoră reguli de bază pe care tocmai le-ai scris.

Nu-ți imaginezi. Există o arhitectură fundamentală sub fiecare agent AI care explică exact de ce se întâmplă asta — și odată ce o înțelegi, totul capătă sens.

Este, în Esență, un While-True Loop

Iată un secret care sună aproape prea simplu: un agent AI este, fundamental, un while-true loop care adaugă elemente într-un array.

while True:
    user_input = get_input()
    response = llm.complete(user_input)
    if response.wants_tool:
        result = execute_tool(response.tool_call)
        response = llm.complete(result)
    print(response)

Atât. Aceasta este arhitectura de bază. Tot restul — definițiile de tool-uri, prompturile de sistem, gestionarea contextului — este doar structura care învelește acest loop.

„Array-ul" de care vorbim este context window-ul. Fiecare apel API trimite întreaga conversație acumulată. Fiecare răspuns se adaugă. Modelul rămâne complet stateless între apeluri.

Context window-ul tău conține: system prompt-ul, definițiile de tool-uri, mesajul utilizatorului, răspunsurile asistentului, rezultatele tool-urilor și orice altceva ai băgat acolo. acel array crește cu fiecare schimb de mesaje.

Problema Zonei Inteligente

Aici devine interesant. Majoritatea dezvoltatorilor presupun că context window-ul este uniform — pui informații, modelul le procesează egal.

Nu-i așa.

Primii aproximativ 40% din context window sunt locul unde modelul gândește clar. Aceasta este „zona inteligentă". Dincolo de acel prag, atenția se împrăștie. Alegerea tool-urilor devine neglijentă. Instrucțiunile cad. Obiectivul începe să devieze.

Asta explică de ce adăugarea mai multui context poate, de fapt, să înrăutățească performanța agentului. Modelele frontieră urmează în mod fiabil în jur de 150-200 de instrucțiuni înainte să înceapă problemele. Dincolo de acel prag, chiar și reguli explicite de la începutul prompt-ului sunt ignorate.

Gândește-te: dacă adaugi system prompts, definiții multiple de tool-uri, istoric de conversații și documente de referință, s-ar putea să împingi instrucțiunile importante dincolo de punctul unde modelul le poate urma fiabil.

Problema de Alocare pe Care Nimeni Nu O Discuta

Content-ul static este ucigașul silențios al performanței agenților.

Înainte să înceapă conversația, probabil că umpli context window-ul cu lucruri care par necesare: system prompts cuprinzătoare, definiții extinse de tool-uri, memory banks, configurații MCP, referințe de documentație.

Tot acel content static mănâncă din zona ta inteligentă înainte să sosească primul mesaj.

Rezultatul? Cele mai importante instrucțiuni — cele care definesc comportamentul agentului pentru sarcina specifică — concurează pentru spațiu într-o zonă inteligentă care se micșorează.

Asta e motivul pentru care cei mai buni agenți pornesc de la zero. O sesiune nouă înseamnă un context window gol. Nicio acumulare toxică. Nicio instrucțiune competitor din sarcini anterioare. Doar ce ai nevoie pentru treaba de acum.

Context Rot: Modul de Eșec Silențios

Iată ce e tricky la gestionarea contextului: nimic nu dă eroare.

În software-ul tradițional, primești erori. Excepții. Eșecuri pe care le poți detecta și gestiona. Dar cu context window-urile, fiecare apel reușește. Modelul răspunde. Doar că... devine mai slab.

Același window. Același model. Se umple doar.

Asta e „context rot" — degradarea treptată a performanței agentului pe măsură ce context window-ul se umple cu istoric acumulat de conversații, rezultate ale tool-urilor și referințe de documentație. Nu vei vedea un mesaj de eroare. Vei observa doar că agentul devine mai nesigur, mai puțin concentrat, mai puțin aliniat cu instrucțiunile tale.

Asta e fundamental diferit de bug-urile tipice de software. Nu e un eșec — e o problemă de capacitate. Și se strecoară fără să-ți dai seama.

Cum Să Faci Zona Inteligientă să lucreze pentru Tine

Înțelegerea acestor principii duce la strategii practice:

Pornește de la zero pentru fiecare sarcină. Nu reutiliza un window epuizat de la un proiect anterior. Sarcinile noi primesc sesiuni noi. Pagina curată, zonă inteligentă la capacitate maximă.

Include doar ce are nevoie această sarcină. Acea integrare MCP utilă pentru alte proiecte? Scoate-o. Notițele de la alt proiect? Doar ocupă spațiu. Filtrează cu rigoare ce intră în context.

Mută pe disk ce e mare. Fișierele mari rămân pe disk. Sumarul merge în window. Poți citi un fișier oricând ai nevoie — după ce l-ai sumarizat pentru context window.

Folosește sub-agenti pentru explorări. Când agentul trebuie să investigateze ceva tangențial sarcinii principale, pornește un sub-agent. Lasă-l să cerceteze și să revină cu un paragraf. Nu lăsa explorarea să înghesuie contextul principal.

Lasă loc sub linie. Când agentul termină treaba principală, mai ai de finalizat — scrie teste, face commit, rulează linter-e. Dacă contextul e plin, nu mai e loc pentru acest pas crucial final.

Împarte munca mare în sesiuni. Când o sarcină nu încape într-un window, planifică-o mai întâi. Scrie specificația pe disk. Lasă mai mulți agenți să preia de unde a rămas cel anterior.

Concluzia Reală

Fiecare sesiune pornește de la zero. Contextul nu se organizează singur.

Cineva trebuie să gestioneze alocarea contextului, rotația, compactarea și recuperarea. Cineva decide ce merită păstrat în zona inteligentă și ce merge pe disk.

Anthropic livrează harness-ul agentului — loop-ul while-true, execuția tool-urilor, integrarea LLM de bază. Tu livrezi stratul din jurul lui. Gestionarea contextului. Frame-uirea sarcinii. Designul system prompt-ului.

Înțelegerea acestei arhitecturi nu te va face expert AI peste noapte. Dar îți va da un cadru pentru a diagnostica când agenții tăi se comportă ciudat și un vocabular pentru a gândi systematic despre gestionarea contextului.

Data viitoare când agentul tău începe să ignore instrucțiunile, vei ști exact ce să verifici: cât din zona ta inteligentă e încă disponibilă și ce o umple.

Asta e arhitectura ascunsă. Acum du-te și construiește ceva.