De Verborgen Architectuur van AI Agents: Wat Iedereen Misstaat

Als je de laatste tijd hebt gespeeld met AI agents, is je vast iets opgevallen: soms volgen ze complexe instructies perfect, en soms negeren ze de meest basale regels die je net hebt opgeschreven.

Je bildt het je niet in. Er zit een fundamentele architectuur onder elk AI agent die precies verklaart waarom dit gebeurt—en zodra je het snapt, valt alles op zijn plek.

Het Is Gewoon een While-True Loop

Hier komt een geheim dat bijna te simpel klinkt: een AI agent is fundamenteel een while-true loop die toevoegt aan een array.

while True:
    user_input = haal_input()
    antwoord = llm.verwerk(user_input)
    if antwoord.wil_hulpmiddel:
        resultaat = voer_hulpmiddel_uit(antwoord.tool_aanroep)
        antwoord = llm.verwerk(resultaat)
    print(antwoord)

Dat is het. Dat is de kernarchitectuur. Alles eromheen—de tool-definities, de systeemprompts, het contextbeheer—is alleen de harness die om deze loop heen zit.

De "array" waar we het over hebben is de context window. Elke API-call stuurt de volledige opgehoopte conversatie. Elke beurt wordt toegevoegd. Het model zelf blijft volledig stateless tussen calls.

Je context window bevat: de systeemprompt, tool-definities, gebruikersbericht, assistant-antwoorden, tool-resultaten, en wat je verder allemaal hebt ingepakt. Die array groeit met elke uitwisseling.

Het Slimme Zone Probleem

Hier wordt het interessant. De meeste developers denken dat de context window uniform werkt—je stopt informatie erin, het model verwerkt het gelijk.

Dat is het niet.

De eerste ruwweg 40% van je context window is waar het model helder denkt. Dit is de "slimme zone." Voorbij die drempel vervaagt de aandacht. Tool-keuzes worden slordig. Instructies worden genegeerd. Het doel begint te verdwalen.

Dit verklaart waarom meer context toevoegen je agent eigenlijk slechter kan laten presteren. De frontier thinking models volgen betrouwbaar zo'n 150-200 instructies voordat dingen beginnen te falen. Voorbij die drempel worden zelfs expliciete regels helemaal bovenaan je prompt genegeerd.

Denk erover na: als je systeemprompts stapelt, meerdere tool-definities, conversatiegeschiedenis en referentiedocumenten, push je je bruikbare instructies misschien voorbij het punt waarop het model ze betrouwbaar kan volgen.

Het Allocatieprobleem Waar Niemand Het Over Heeft

Statische vullingen zijn de stille killer van agent-prestaties.

Voordat je gesprek überhaupt begint, vul je waarschijnlijk al je context window met dingen die noodzakelijk lijken: uitgebreide systeemprompts, uitgebreide tool-definities, memory banks, MCP-configuraties, documentatiereferenties.

Al die statische content eet je slimme zone op voordat het eerste gebruikersbericht arriveert.

Het resultaat? Je belangrijkste instructies—degenen die het gedrag van je agent voor deze specifieke taak definiëren—concurreren om ruimte in een inkrimpende slimme zone.

Dit is waarom de beste agents vers beginnen. Een nieuwe sessie betekent een lege context window. Geen opgehoopte rot. Geen concurrerende instructies van vorige taken. Alleen wat je nodig hebt voor de klus.

Context Rot: De Stille Faalmodus

Hier wordt het lastig met contextbeheer: er gaat niets kapot.

In traditionele software krijg je errors. Exceptions. Fouten die je kunt detecteren en afhandelen. Maar met context windows slaagt elke call. Het model antwoordt. Het wordt alleen... slechter.

Zelfde window. Zelfde model. Het raakt alleen vol.

Dit is "context rot"—de geleidelijke achteruitgang van agent-prestaties naarmate de context window volloopt met opgehoopte conversatiegeschiedenis, tool-resultaten en documentatiereferenties. Je krijgt geen foutmelding. Je merkt alleen dat je agent minder betrouwbaar wordt, minder gefocust, minder uitgelijnd met je instructies.

Dit is fundamenteel anders dan typische software bugs. Het is geen failure—het is een capaciteitsprobleem. En het sluipert erin.

De Slimme Zone Voor Je Laten Werken

Deze principes begrijpen leidt tot praktische strategieën:

Begin fris per taak. Hergebruik geen uitgeputte window van een vorig project. Nieuwe taken krijgen nieuwe sessies. Schone lei, volledige slimme zone.

Neem alleen wat deze taak nodig heeft. Die MCP-integratie die handig is voor ander werk? Laat hem weg. Die notities van een ander project? Ze nemen alleen maar ruimte in beslag. Filter meedogenloos wat je context binnenkomt.

Offload naar disk. Grote bestanden blijven op disk. Samenvattingen gaan in de window. Je kunt een bestand altijd lezen wanneer je het nodig hebt—nadat je het hebt samengevat voor de context window.

Gebruik sub-agents voor zijtaken. Wanneer je agent iets moet onderzoeken dat tangential is aan de hoofdtaak, spin een sub-agent op. Laat hem onderzoeken en met één alinea terugkomen. Laat exploratie je hoofdcontext niet rommelig maken.

Houd ruimte onder de lijn. Wanneer je agent klaar is met het hoofdwerk, moet je nog dingen afronden—tests schrijven, code committen, linters draaien. Als je context helemaal vol zit, is er geen ruimte meer voor deze cruciale laatste stap.

Verdeel groot werk over sessies. Wanneer een taak niet in één window past, plan het dan eerst. Schrijf de spec naar disk. Laat meerdere agents oppakken waar de vorige is geëindigd.

De Echte Conclusie

Elke sessie begint bij nul. Context engineers zichzelf niet.

Iemand moet het contextbeheer, de rotatie, de compactie en het herstel afhandelen. Iemand moet beslissen wat het waard is om in de slimme zone te houden en wat naar disk wordt offloaded.

Anthropic levert de agent harness—de while-true loop, de tool-uitvoering, de core LLM-integratie. Jij levert de laag eromheen. Het contextbeheer. De taak-framing. Het systeemprompt-ontwerp.

Deze architectuur begrijpen maakt je niet van de ene op de andere dag AI-expert. Maar het geeft je een framework voor het diagnosticeren wanneer je agents misdragen en een vocabulaire voor het systematisch nadenken over contextbeheer.

De volgende keer dat je agent instructies begint te negeren, weet je precies wat te controleren: hoeveel van je slimme zone nog beschikbaar is, en wat hem aan het vullen is.

Dat is de verborgen architectuur. Ga nu iets bouwen.