Skrytá architektura AI agentů: Co všichni dělají špatně

Pokud jste experimentovali s AI agenty, určitě jste si toho všimli. Někdy splní složité instrukce bez chybičky, jindy ignorují ta nejzákladnější pravidla, která jste právě napsali.

Nevymýšlím si to. Pod každým AI agentem je fundamentální architektura, která vysvětluje přesně tohle chování. A když ji pochopíte, najednou všechno dává smysl.

Je to vlastně jen While-True smyčka

Tady je tajemství, které zní až příliš jednoduše: AI agent je v jádru while-true smyčka, která přidává položky do pole.

while True:
    user_input = ziskej_vstup()
    odpoved = llm.dokonci(user_input)
    if odpoved.chce_nastroj:
        vysledek = spust_nastroj(odpoved.volani_nastroje)
        odpoved = llm.dokonci(vysledek)
    print(odpoved)

A to je celé. Tohle je jádro architektury. Všechno ostatní – definice nástrojů, system prompt, správa kontextu – to je jen konstrukce kolem této smyčky.

Tím „polem" je context window. Každé volání API posílá celou nahromaděnou konverzaci. Každý tah přidává další položku. Model mezi voláními zůstává zcela bez stavu.

Vaše context window obsahuje: system prompt, definice nástrojů, uživatelskou zprávu, odpovědi asistenta, výsledky nástrojů a cokoliv dalšího, co jste tam nacpali. Pole roste s každou wyměnou.

Problém chytré zóny

Tady to začíná být zajímavé. Většina vývojářů si myslí, že context window je uniformní – vložíte informace a model je zpracuje stejně.

Ale není to tak.

Prvních zhruba 40 % context window je místo, kde model přemýšlí jasně. Tomu říkám „chytrá zóna". Přes tento práh už pozornost slábne. Volby nástrojů jsou nepořádnější. Instrukcím se nedostává pozornosti. Cíl se začíná toulat.

Tohle vysvětluje, proč přidání více kontextu může agenta paradoxně zhoršit. Moderní modely spolehlivě sledují zhruba 150-200 instrukcí. Pak se to začíná hroutit. Nad tímto prahem dokonce explicitní pravidla na začátku promptu mizí v propadlišti dějin.

Zamyslete se nad tím: pokud vrstvíte system prompty, spoustu definic nástrojů, historii konverzace a referenční dokumenty, možná tlačíte své užitečné instrukce za bod, kde je model ještě schopný je spolehlivě sledovat.

Alokační problém, o kterém nikdo nemluví

Statický obsah je tichý zabiják výkonu agentů.

Ještě než vaše konverzace začne, pravděpodobně plníte context window věcmi, které se zdají nutné: komplexní system prompty, rozsáhlé definice nástrojů, paměťové banky, MCP konfigurace, reference na dokumentaci.

Všechen ten statický obsah ukusuje z vaší chytré zóny ještě před prvním uživatelským vzkazem.

Výsledek? Vaše nejdůležitější instrukce – ty, které definují chování agenta pro tento konkrétní úkol – bojují o místo ve zmenšující se chytré zóně.

Proto ti nejlepší agenti začínají čistě. Nová session znamená prázdný context window. Žádnou nahromaděnou veteš. Žádné konkurenční instrukce z předchozích úkolů. Jen to, co potřebujete na práci.

Context rot: Tichý režim selhání

Tady je ta chytlavá část správy kontextu: nic ne selhává.

V tradičním softwaru byste dostali chyby. Výjimky. Selhání, která můžete detekovat a ošetřit. Ale s context window každé volání proběhne úspěšně. Model odpoví. Jen... je horší.

Stejné okno. Stejný model. Jen se plní.

Tomuhle říkám „context rot" – postupná degradace výkonu agenta, jak se context window plní nahromaděnou historií konverzace, výsledky nástrojů a referencemi na dokumentaci. Neuvidíte chybovou hlášku. Jen si všimnete, že váš agent je méně spolehlivý, méně fokusovaný, méně v souladu s vašimi instrukcemi.

Tohle je fundamentálně jiné než typické softwarové bugs. Není to selhání – je to problém kapacity. A připlíží se to potichu.

Jak dostat chytrou zónu na svou stranu

Pochopení těchto principů vede k praktickým strategiím:

Začínejte čistě pro každý úkol. Nepoužívejte unavené okno z předchozího projektu. Nové úkoly dostávají nové session. Čistý stůl, plná chytrá zóna.

Dejte tam jen to, co úkol potřebuje. Ta MCP integrace, co je užitečná jinde? Vynechte ji. Ty poznámky z jiného projektu? Jen zabírají místo. Nemilosrdně filtrujte, co se dostane do kontextu.

Stahujte na disk. Velké soubory zůstávají na disku. Shrnutí jdou do okna. Soubor si vždycky můžete přečíst, až ho pro kontextové okno zpracujete.

Používejte sub-agenty pro vedlejší mise. Když váš agent potřebuje prozkoumat něco vedlejšího k hlavnímu úkolu, vytočte sub-agenta. Nechť to prošetří a vrátí jeden odstavec. Nenechte průzkum zašpinit váš hlavní kontext.

Nechejte místo pod čarou. Až váš agent dokončí hlavní práci, pořád potřebujete dokončit věci – psát testy, commitovat kód, pouštět linter. Když je kontext nacpaný k prasknutí, nezbývá místo na tenhle zásadní finální krok.

Rozdělte velkou práci do session. Když se úkol nevejde do jednoho okna, naplánujte ho nejdřív. Napište spec na disk. Nechte víc agentů, aby na sebe navázali tam, kde předchozí skončil.

Hlavní ponaučení

Každá session začíná od nuly. Kontext se sám nezařídí.

Někdo musí obstarat alokaci kontextu, rotaci, kompakci a obnovu. Někdo se musí rozhodnout, co si zaslouží místo v chytré zóně a co půjde na disk.

Anthropic dodává agenta – tu while-true smyčku, spouštění nástrojů, core LLM integraci. Vy dodáváte vrstvu kolem něj. Správu kontextu. Rámování úkolů. Design system promptu.

Pochopení této architektury z vás neudělá AI experta ze dne na den. Ale dá vám to rámec pro diagnostiku, když se agenti chovají divně, a slovník pro systematické přemýšlení o správě kontextu.

Příště až váš agent začne ignorovat instrukce, budete přesně vědět, co zkontrolovat: kolik chytré zóny ještě zbývá a co ji plní.

Tohle je ta skrytá architektura. Teď jděte něco postavit.