Den Dolda Arkitekturen Bakom AI-agenter: Vad Alla Misstar Sig Om

Om du harexperimenterat med AI-agenter ett tag har du säkert lagt märke till något konstigt: ibland följer de komplexa instruktioner perfekt, ibland ignorerar de de mest grundläggande reglerna du precis skrev.

Du inbillar dig inte. Det finns en grundläggande arkitektur under varje AI-agent som förklarar exakt varför detta händer – och när du väl förstår den, faller allt annat på plats.

Det är Bara en While-True-loop

Här är en hemlighet som låter nästan för enkel: en AI-agent är i grunden en while-true-loop som lägger till i en array.

while True:
    användar_input = hämta_input()
    svar = llm.complete(användar_input)
    if svar.vill_verktyg:
        resultat = kör_verktyg(svar.verktygs_anrop)
        svar = llm.complete(resultat)
    print(svar)

Det är allt. Det är kärnarkitekturen. Allt annat – verktygsdefinitionerna, systemprompts, kontexthantering – är bara det ramverk som omsluter loopen.

"Arrayen" vi pratar om är context window. Varje API-anrop skickar hela den ackumulerade konversationen. Varje sväng läggs till. Modellen själv förblir helt tillståndslös mellan anrop.

Din context window innehåller: systemprompten, verktygsdefinitioner, användarmeddelande, assistentens svar, verktygsresultat, och vad du nu än har packat in där. Den arrayen växer med varje utbyte.

Smartzonen

Här blir det intressant. De flesta utvecklare antar att context window är enhetlig – du stoppar in information, modellen bearbetar den lika.

Det är den inte.

De första cirka 40 procenten av din context window är där modellen tänker klart. Det här är "smartzonen." Förbi den tröskeln börjar uppmärksamheten minska. Verktygsval blir slarviga. Instruktioner tappas bort. Målet börjar driva iväg.

Det förklarar varför att lägga till mer kontext faktiskt kan göra din agent sämre. De främsta tänkande modellerna följer tillförlitligt runt 150-200 instruktioner innan saker börjar falla sönder. Över den tröskeln ignoreras även explicita regler högst upp i din prompt.

Tänk på det: om du staplar systemprompts, flera verktygsdefinitioner, konversationshistorik och referensdokument, så kanske du pressar dina användbara instruktioner förbi den punkt där modellen kan följa dem tillförlitligt.

Allokeringsproblemet Ingen Pratar Om

Statiska fyllnader är den tysta mördaren av agentprestanda.

Innan din konversation ens börjar fyller du förmodligen din context window med saker som verkar nödvändiga: omfattande systemprompts, omfattande verktygsdefinitioner, minnesbanker, MCP-konfigurationer, dokumentationsreferenser.

Allt det statiska innehållet äter upp din smartzon innan det första användarmeddelandet ens anländer.

Resultatet? Dina viktigaste instruktioner – de som definierar din agents beteende för denna specifika uppgift – konkurrerar om utrymme i en krympande smartzon.

Det är därför de bästa agenterna startar friskt. En ny session betyder en tom context window. Ingen ackumulerad rost. Inga konkurrerande instruktioner från tidigare uppgifter. Bara det du behöver för jobbet just nu.

Kontextrot: Den Tysta Fellägen

Här är det knepiga med kontexthantering: ingenting misslyckas.

I traditionell programvara får du fel. Undantag. Misslyckanden du kan upptäcka och hantera. Men med context windows lyckas varje anrop. Modellen svarar. Den blir bara... sämre.

Samma fönster. Samma modell. Det fylls bara på.

Det här är "kontextrot" – den gradvisa försämringen av agentprestanda när context window fylls med ackumulerad konversationshistorik, verktygsresultat och dokumentationsreferenser. Du kommer inte att se ett felmeddelande. Du kommer bara att märka att din agent blir mindre pålitlig, mindre fokuserad, mindre anpassad till dina instruktioner.

Det här är fundamentalt annorlunda från typiska mjukvarubuggar. Det är inte ett misslyckande – det är ett kapacitetsproblem. Och det smyger sig på dig.

Få Smartzonen att Arbeta för Dig

Att förstå dessa principer leder till praktiska strategier:

Starta friskt per uppgift. Återanvänd inte ett trött fönster från ett tidigare projekt. Nya uppgifter får nya sessioner. Ren skiva, full smartzon.

Inkludera bara vad denna uppgift behöver. Den MCP-integration som är användbar för annat arbete? Ta bort den. De anteckningarna från ett annat projekt? De tar bara upp plats. Filosa ruthless vad som kommer in i din kontext.

Lagra till disk. Stora filer stannar på disk. Sammanfattningar hamnar i fönstret. Du kan alltid läsa en fil när du behöver den – efter att du har sammanfattat den för context window.

Använd sub-agenter för sidouppdrag. När din agent behöver utforska något som är tangentiellt till huvuduppgiften, snurra upp en sub-agent. Låt den undersöka och returnera en paragraf. Låt inte utforskning störa din huvudkontext.

Lämna utrymme under linjen. När din agent är klar med huvudarbetet behöver du fortfarande avsluta saker – skriva tester, committa kod, köra linters. Om din kontext är packad full finns det inget utrymme kvar för detta avgörande sista steg.

Dela upp stort arbete över sessioner. När en uppgift inte får plats i ett fönster, planera den först. Skriv specen till disk. Låt flera agenter plocka upp där den förra slutade.

Den Verkliga Lärdommen

Varje session börjar från noll. Kontexten konstruerar inte sig själv.

Någon måste hantera kontextallokering, rotation, komprimering och återställning. Någon måste bestämma vad som är värt att behålla i smartzonen och vad som lastas av till disk.

Anthropic levererar agentramverket – while-true-loopen, verktygskörningen, kärn-LLM-integrationen. Du levererar lagret runt det. Kontexthanteringen. Uppgiftsformuleringen. Systempromptdesignen.

Att förstå denna arkitektur gör dig inte till AI-expert över en natt. Men det ger dig ett ramverk för att diagnostisera när dina agenter beter sig illa och ett ordförråd för att tänka systematiskt om kontexthantering.

Nästa gång din agent börjar ignorera instruktioner, vet du exakt vad du ska kolla: hur mycket av din smartzon som fortfarande är tillgänglig, och vad som fyller den.

Det är den dolda arkitekturen. Gå nu och bygg något.