Vertrouwen opbouwen in lokale AI-agents: de OATs-architectuur voor veilige en controleerbare ontwikkeling

We staan op een cruciaal moment in AI-ondersteunde ontwikkeling. Lokale modellen zoals FunctionGemma en Qwen worden steeds krachtiger. Ze kunnen zelfstandig tools aanroepen, code uitvoeren en complete workflows aansturen. Maar hoe geef je zo’n agent de ruimte om te werken, zonder het zicht en de controle te verliezen?

Het risico van ongecontroleerde automatisering

Stel je voor: je vraagt je lokale coding agent om een refactor uit te voeren. Je gaat slapen. De volgende ochtend blijkt dat de agent honderden tool calls heeft gedaan — schema’s aangepast, API’s herstructurerend, frontend-code herschreven. Alleen is er geen duidelijk overzicht van wat er precies is gebeurd, waarom bepaalde keuzes zijn gemaakt, of of alles veilig was.

Sommige teams hebben al meegemaakt dat tabellen in een database zomaar verdwenen na een nachtelijke sessie met een agent. Geen verklaring, no trace. Dat laat zien hoe gevaarlijk het is als raw power zonder governance losgelaten wordt.

OATs: standaardisatie met ingebouwde veiligheid

De Open Agent Tools (OATs) protocol biedt een oplossing. Het zorgt voor een uniforme manier om agenten met tools te verbinden, waarbij zowel capability als accountability centraal staan. De kern is dat je je goedgekeurde tools bundelt in een centraal JSON-bestand. Dat geeft je directe controle over wat je agenten wel en niet mogen doen.

Slimme delegatie om load te beperken

De OATs-architectuur werkt met een slimme verdeling van taken. Een groter model, zoals Qwen 35B, bepaalt op basis van je prompt welke tools nodig zijn. Daarna delegeren die aan kleinere modellen die de uitvoering verzorgen — bijvoorbeeld FunctionGemma op een oudere GPU of zelfs een laptop met een 3060.

Elke tool call wordt daarbij vastgelegd en queryable gemaakt. Dit zorgt niet alleen voor efficiency, maar ook voor containment. Een model dat database-operaties uitvoert, krijgt alleen toegang tot relevante tools. Zo reduceer je de attack surface aanzienlijk.

Niet 141.000 tools, maar alleen wat je nodig hebt

OATs houdt een open index bij van meer dan 141.000 tools. Maar je hoeft die niet helemaal te adopteren. Je neemt alleen de tools op die voor jouw team relevant zijn en voegt ze toe aan een lokale JSON.

Als example:

{
  "superhappy": {
    "description": "Read from Open WebUI knowledge collection",
    "implementation": "/local/path/to/read_knowledge.py",
    "permissions": ["read_only"],
    "approved_by": "security_team"
  }
}

Met zo’n setup krijgt je agent precies wat je hebt toegestaan — en niets anders. Het is governance via configuratie.

De drie pijlers van veilige, autonome ontwikkeling

1. Observability via audit logging

De OATs-architectuur zorgt ervoor dat elke tool call wordt gelogd. En niet in een abstract form — in real-time en queryable. Met integratie in Mattermost kan je agent zelfs audit trails posten terwijl het werkt. Zo kun je direct zien wat er gebeurt, en snel ingrijpen als iets afwijkt.

2. Human-in-the-loop curation

Het is de mens — en niet de AI — en niet een machine — die de uiteindelijke beslissing maakt. Met de index van 141.000 tools als basis, heb je een door mensen geëvalueerde lijst van tools. Dat is een evoluerend proces: à<|eos|>