Slik bygger du tillit til lokale AI-agenter: OATs gir deg kontroll uten å miste fleksibilitet

Vi står midt i et skifte der lokale modeller som FunctionGemma og Qwen blir kraftige nok til å kjøre ekte utviklingsarbeid på egen hånd. De kan kalle verktøy, kjøre kode og ta beslutninger. Men hvordan lar du dem jobbe effektivt uten å miste oversikt og styring?

Problemet med full autonomi

Tenk deg at du ber en lokal koding-agent om å refakturere appen din. Du legger deg, og når du våkner har agenten gjort hundrevis av endringer – databasestrukturen er modifisert, API-et er ombygd, og frontend-koden er endret. Problemet er at du ikke har noen oversikt over hva som ble gjort, hvorfor det ble gjort, eller om endringene var trygge.

En utvikler opplevde at databasetabeller plutselig ble slettet i et testmiljø etter en natt med agentaktivitet. Ingen klar logg. Ingen åpenbar årsak. Bare borte.

Det er dette som skjer når autonomi uten styring får råde.

OATs: Ett protokoll som kombinerer kraft og kontroll

Open Agent Tools (OATs) gir et rammeverk som gjør agentenes verktøybruk både standardisert og observerbar. I stedet for at hver team bygger egne løsninger for kommunikasjon mellom agent og verktøy, bruker OATs en felles arkitektur som tar hensyn til både funksjonalitet og ansvarlighet.

Grunnideen er enkel: sentraliser godkjente verktøy i én JSON-fil, og du har full kontroll over hva agenten kan gjøre.

Smart fordeling av oppgaver

OATs-løsningen er smart fordi den ikke kjører alt på én stor modell. I stedet fordeler den arbeidet:

• En stor modell som Qwen 35B analyserer oppgaven og bestemmer hvilke verktøy som trengs
• Små, effektive modeller som FunctionGemma kjører selve utførelsen – selv på eldre GPU-er eller bærbare med NVIDIA 3060
• Hver verktøy-kall blir logget og kan spores

Dette gir både effektivitet og sikkerhet. Små modeller får kun tilgang til en begrenset liste av verktøy relatert til oppgaven de skal gjøre. Database-modeller får bare database-verktøy. Frontend-modeller får bare relevante kommandoer.

Fra 141 000 verktøy til en håndfull godkjente

OATs har en åpen liste på over 141 000 verktøy på HuggingFace. Tanken er ikke å bruke alle, <|eos|>