Den skjulte arkitekturen til AI-agenter: Derfor tar alle feil

Hvis du har lekt med AI-agenter en stund, har du sikkert lagt merke til noe rart: Noen ganger følger de komplekse instruksjoner perfekt, andre ganger ignorerer de de mest grunnleggende reglene du nettopp skrev.

Du innbiller deg ikke. Det er en fundamental arkitektur under hver eneste AI-agent som forklarer akkurat hvorfor dette skjer – og når du først skjønner det, faller alt annet på plass.

Det er bare en While-True Loop

Her er en hemmelighet som høres nesten for enkelt ut: En AI-agent er fundamentalt en while-true loop som legger til i en array.

while True:
    user_input = get_input()
    response = llm.complete(user_input)
    if response.wants_tool:
        result = execute_tool(response.tool_call)
        response = llm.complete(result)
    print(response)

Det var det. Det er kjernen i arkitekturen. Alt annet – tool-definisjoner, system-prompts, context management – er bare skallet rundt denne loopen.

"Arrayen" vi snakker om er context window. Hvert API-kall sender hele den akkumulerte samtalen. Hver runde legges til. Modellen selv er fullstendig stateless mellom kallene.

Context window inneholder: system-prompten, tool-definisjoner, brukerens melding, assistant-svar, tool-resultater, og alt annet du har pakka inn der. Den arrayen vokser med hver utveksling.

Smartsonen-problemet

Her blir det interessant. De fleste utviklere går ut fra at context window er ensartet – du putter informasjon inn, modellen prosesserer det likt.

Det er den ikke.

De første omtrent 40% av context window er der modellen tenker klart. Dette er "smartsonen." Forbi denne terskelen svekkes oppmerksomheten. Tool-valg blir slurvete. Instruksjoner blir droppa. Målet begynner å drive.

Dette forklarer hvorfor å legge til mer kontekst faktisk kan gjøre agenten din dårligere. Frontier-tenkende modeller følger pålitelig rundt 150-200 instruksjoner før ting begynner å falle fra hverandre. Forbi denne terskelen blir selv eksplisitte regler øverst i prompten ignorert.

Tenk på det: Hvis du stabler system-prompts, flere tool-definisjoner, samtalehistorikk og referansedokumenter, kan du skyve de nyttige instruksjonene dine forbi punktet der modellen kan følge dem pålitelig.

Allokasjonsproblemet Ingen Snakker Om

Statisk innhold er den stille killeren til agentytelse.

Før samtalen din i det hele tatt starter, fyller du sannsynligvis context window med ting som virker nødvendige: omfattende system-prompts, detaljerte tool-definisjoner, minnebanker, MCP-konfigurasjoner, dokumentasjonsreferanser.

Alt det statiske innholdet spiser opp smartsonen din før den første bruker-meldingen kommer.

Resultatet? De viktigste instruksjonene dine – de som definerer agentens oppførsel for denne spesifikke oppgaven – konkurrerer om plass i en stadig krympende smartsone.

Dette er hvorfor de beste agentene starter på nytt. En ny sesjon betyr et tomt context window. Ingen akkumulert rot. Ingen konkurrerende instruksjoner fra tidligere oppgaver. Bare det du trenger for jobben.

Context Rot: Den Stille Feilmodusen

Her er det tricky med context management: ingenting feiler.

I tradisjonell programvare ville du fått errors. Exceptions. Feil du kan oppdage og håndtere. Men med context windows lykkes hvert kall. Modellen svarer. Den blir bare... dårligere.

Samme window. Samme modell. Den fylles bare opp.

Dette er "context rot" – den gradvise forringelsen av agentytelse når context window fylles med akkumulert samtalehistorikk, tool-resultater og dokumentasjonsreferanser. Du får ingen feilmelding. Du legger bare merke til at agenten din blir mindre pålitelig, mindre fokusert, mindre i tråd med instruksjonene dine.

Dette er fundamentalt annerledes fra typiske software bugs. Det er ikke en feil – det er et kapasitetsproblem. Og det sniker seg inn på deg.

Få Smartsonen til å Jobbe for Deg

Å forstå disse prinsippene fører til praktiske strategier:

Start på nytt per oppgave. Ikke gjenbruk et slitent window fra et tidligere prosjekt. Nye oppgaver får nye sesjoner. Blankt lerret, full smartsone.

Bare inkluder det denne oppgaven trenger. Den MCP-integrasjonen som er nyttig for annet arbeid? La den være ute. De notatene fra et annet prosjekt? De tar bare plass. Filtrer brutalt hva som får komme inn i context.

Last av til disk. Store filer blir på disk. Oppsummeringer går i window. Du kan alltid lese en fil når du trenger den – etter at du har oppsummert den for context window.

Bruk sub-agenter for sidespor. Når agenten din trenger å utforske noe som er tangentialt til hovedoppgaven, spinn opp en sub-agent. La den undersøke og komme tilbake med ett avsnitt. Ikke la utforskning rote til hovedkonteksten.

Legg igjen plass under streken. Når agenten er ferdig med hovedarbeidet, trenger du fortsatt å avslutte ting – skrive tester, commite kode, kjøre linters. Hvis context er pakka full, er det ingen plass til dette avgjørende siste steget.

Del stort arbeid på tvers av sesjoner. Når en oppgave ikke passer i ett window, planlegg den først. Skriv spec til disk. La flere agenter plukke den opp der den forrige slapp.

Den Viktige Lærdommen

Hver sesjon starter fra null. Context designer ikke seg selv.

Noen må håndtere context-allokering, rotasjon, komprimering og gjenoppretting. Noen må bestemme hva som er verdt å holde i smartsonen og hva som lastes av til disk.

Anthropic leverer agent-skalet – while-true loopen, tool-kjøring, kjerne-LLM-integrasjonen. Du leverer laget rundt det. Context management. Oppgaveinnramming. System-prompt-design.

Å forstå denne arkitekturen gjør deg ikke til AI-ekspert over natta. Men det gir deg et rammeverk for å diagnostisere når agentene dine oppfører seg rart, og et vokabular for å tenke systematisk om context management.

Neste gang agenten din begynner å ignorere instruksjoner, vet du akkurat hva du skal sjekke: hvor mye av smartsonen din som fremdeles er tilgjengelig, og hva som fyller den opp.

Det er den skjulte arkitekturen. Nå gå og bygg noe.