Den skjulte arkitektur i AI-agenter: Hvad alle tager fejl af

Hvis du har rodet med AI-agenter på det sidste, har du sikkert lagt mærke til noget mærkeligt: Nogle gange følger de komplekse instruktioner perfekt, andre gange ignorerer de de mest basale regler, du lige har skrevet.

Du forestiller dig det ikke. Der er en grundlæggende arkitektur under overfladen af enhver AI-agent, der forklarer præcis hvorfor dette sker – og når først du forstår den, falder alt andet på plads.

Det er bare en while-true løkke

Her er en hemmelighed, der lyder næsten for simpel: En AI-agent er i bund og grund en while-true løkke, der tilføjer til en liste.

while True:
    bruger_input = hent_input()
    svar = llm.generer(bruger_input)
    if svar.vil_bruge_værktøj:
        resultat = kør_værktøj(svar.værktøjskald)
        svar = llm.generer(resultat)
    print(svar)

Det er alt. Det er kernen i arkitekturen. Alt det andet – værktøjsdefinitionerne, system-prompts, konteksthåndtering – er bare den ramme, der holder løkken sammen.

Den "liste", vi taler om, er context window. Hvert API-kald sender hele den akkumulerede samtale. Hver runde tilføjer. Modellen selv forbliver fuldstændig statsløs mellem kald.

Din context window indeholder: system-prompten, værktøjsdefinitioner, brugerbesked, assistent-svar, værktøjsresultater, og hvad du ellers har proppet ind. Den liste vokser med hver eneste udveksling.

Smart zone-problemet

Her bliver det interessant. De fleste udviklere går ud fra, at context window er ensartet – du putter information ind, modellen behandler det ens.

Det er den ikke.

De første cirka 40% af din context window er der, hvor modellen tænker klart. Det er "smart zone." Når du passerer den tærskel, mister modellen fokus. Værktøjsvalg bliver sjuskede. Instruktioner bliver droppet. Målet begynder at drive.

Dette forklarer, hvorfor mere kontekst faktisk kan gøre din agent dårligere. De bedste reasoning-modeller følger pålideligt omkring 150-200 instruktioner, før tingene begynder at falde fra hinanden. Over den tærskel bliver selv eksplicitte regler øverst i din prompt ignoreret.

Tænk over det: Hvis du stabler system-prompts, flere værktøjsdefinitioner, samtalehistorik og referencedokumenter oven i hinanden, risikerer du at skubbe dine vigtige instruktioner forbi det punkt, hvor modellen kan følge dem pålideligt.

Allokeringsproblemet, ingen taler om

Statisk indhold er den stille dræber af agentydelse.

Før din samtale overhovedet går i gang, fylder du sandsynligvis din context window med ting, der virker nødvendige: omfattende system-prompts, udtalige værktøjsdefinitioner, hukommelsesbanker, MCP-konfigurationer, dokumentationsreferencer.

Alt det statiske indhold æder af din smart zone, før den første brugerbesked overhovedet rammer.

Resultatet? Dine vigtigste instruktioner – dem der definerer din agents adfærd for denne specifikke opgave – konkurrerer om pladsen i en skrumpende smart zone.

Derfor klarer de bedste agenter sig med en frisk start. En ny session betyder en tom context window. Ingen ophobet rodes. Ingen konkurrerende instruktioner fra tidligere opgaver. Bare det, du har brug for til jobbet.

Context rot: Den stille fejltilstand

Her er det tricky ved konteksthåndtering: Intet fejler.

I traditionel software får du fejl. Exceptions. Fejl du kan opdage og håndtere. Men med context windows lykkes hvert kald. Modellen svarer. Den bliver bare... dårligere.

Samme vindue. Samme model. Det fylder bare op.

Dette er "context rot" – den gradvise forringelse af agentydelse, efterhånden som context window fyldes med akkumuleret samtalehistorik, værktøjsresultater og dokumentationsreferencer. Du får ingen fejlmeddelelse. Du lægger bare mærke til, at din agent bliver mindre pålidelig, mindre fokuseret, mindre i overensstemmelse med dine instruktioner.

Dette er fundamentalt anderledes end typiske softwarefejl. Det er ikke en fejl – det er et kapacitetsproblem. Og det sniger sig ind på dig.

Få smart zone til at arbejde for dig

At forstå disse principper fører til praktiske strategier:

Start forfra per opgave. Genbrug ikke et træt vindue fra et tidligere projekt. Nye opgaver får nye sessioner. Ren skrivebord, fuld smart zone.

Medtag kun det, denne opgave har brug for. Den MCP-integration, der er nyttig til andet arbejde? Lad den blive ude. De noter fra et andet projekt? De optager bare plads. Vær nådesløs med at filtrere, hvad der kommer ind i din kontekst.

Læg det på disk. Store filer bliver på disken. Resuméer kommer ind i vinduet. Du kan altid læse en fil, når du har brug for den – når du først har resumeret den til context window.

Brug sub-agenter til sidespring. Når din agent har brug for at udforske noget tangentialt til hovedopgaven, så spin en sub-agent op. Lad den undersøge og vende tilbage med ét afsnit. Lad ikke udforskningen fylde din hovedkontekst.

Hold plads under linjen. Når din agent er færdig med hovedarbejdet, skal du stadig afslutte ting – skrive tests, committe kode, køre linters. Hvis din kontekst er pakket fuld, er der ingen plads til dette afgørende sidste skridt.

Opdel stort arbejde på tværs af sessioner. Når en opgave ikke kan være i ét vindue, så planlæg først. Skriv specifikationen til disk. Lad flere agenter tage over, hvor den forrige slap.

Den egentlige konklusion

Hver session starter fra nul. Kontekst designer ikke sig selv.

Nogen er nødt til at håndtere kontekstallokering, rotation, komprimering og gendannelse. Nogen er nødt til at beslutte, hvad der er værd at beholde i smart zone, og hvad der skal flyttes til disk.

Anthropic leverer agent-harnisket – while-true løkken, værktøjskørslen, den grundlæggende LLM-integration. Du leverer laget omkring det. Konteksthåndteringen. Opgaveindramningen. System-prompt-designet.

At forstå denne arkitektur gør dig ikke til AI-ekspert fra den ene dag til den anden. Men det giver dig et framework til at diagnosticere, når dine agenter opfører sig forkert, og et ordforråd til at tænke systematisk om konteksthåndtering.

Næste gang din agent begynder at ignorere instruktioner, vil du vide præcis hvad du skal tjekke: hvor meget af din smart zone der stadig er tilgængelig, og hvad der fylder den.

Det er den skjulte arkitektur. Gå nu ud og byg noget.