Smarte oppsummeringer: Nye veier til bedre AI-koding

Problemet med glemsel i komplekse oppgaver

Alle snakker om å skalere opp med mer regnekraft. Det funker fint for enkle ting. Be en LLM om en dikt – kjør den tre ganger, velg den beste. Fix en bug? Greit nok.

Men når agenten skal håndtere en stor software-utfordring med mange steg, branching beslutninger og kjedereaksjoner fra feil? Da svikter den gamle oppskriften.

Frustrasjonen er klar: Agenten lager ikke bare et svar. Den bygger en hel bane av valg, observasjoner, kodeforsøk, feil og delvise fremskritt. Den tester fem veier, treffer blindveier, backtracker og lærer av fiaskoen. Kjør den på nytt fra scratch? Alt det verdifulle forsvinner.

Det er som å be en utvikler løse samme problem to ganger uten notatene.

Løsningen: Kompakt kunnskap fra hver runde

Knykken ligger ikke i flere forsøk. Det handler om å huske hva du har lært. Her starter magien.

I stedet for å behandle hvert forsøk som en svart boks, komprimer det til en strukturert oppsummering. Ikke en lang logg (for tung), ikke bare tall (for tynt), men en smart balanse: kjerneinnsiktene uten unødvendig støy.

Tenk deg agenten som tenker: "Sist prøvde jeg mutasjonsfikser og traff den feilen. Nå skifter jeg til en annen løsningstype." Det skiller brute force fra ekte intelligens.

Poenget: Skalering av agenter i lange oppgaver handler om representasjon, valg og gjenbruk. Ikke bare rå hastighet.

To smarte skalingsmetoder

Her er to metoder som utfyller hverandre:

Parallell skalering med turneringsvalg

Kjør flere agentversjoner parallelt, hver på sin sti. Utfordringen: Sammenligne dusinvis av baner er som å pløye gjennom romaner.

Recursive Tournament Voting (RTV) fikser det. Del inn i små grupper, kjør dueller, la vinnerne gå videre i runder. Som en knockout-turnering for kode. Mindre regn, like god kvalitet.

Sekvensiell skalering med kunnskapsdestillasjon

Etter hvert forsøk, destiller lærdommen: Hva fungerte, hva feilet, hvilke stier var lovende? Neste runde starter varm, kondisjonert på oppsummeringene.

Som en utvikler som leser sine egne PR-kommentarer før neste iterasjon. Ny kunnskap uten å låse fast.

Resultater som teller

Tallene imponerer. På toppmodeller for koding:

• Claude på SWE-Bench Verified: Fra 70,9 % til 77,6 % suksess
• Terminaloppgaver: Fra 46,9 % til 59,1 %

Solide løft på allerede avanserte systemer. Kommer fra smartere metoder, ikke større modeller.

Den store vendingen

Dette endrer hvordan vi ser på AI-skalering. Lenke har vært: Større modeller, flere parametre, mer data. Det holder stilen.

Men i åpne, lange domener som koding, admin eller kompleks resonnering? Rå størrelse gir raskt mindre avkastning. Flaskehalsen flytter til evnen til å lære av erfaring og bygge videre.

Derfor kan en mindre modell med god hukommelse og refleksjon slå en gigant i ensomhet. Inferens-arkitekturen avgjør.

Hva det betyr for deg som utvikler eller startup

Bygger du med AI-agenter – enten på NameOcean's Vibe Hosting eller egne oppsett? Dette er et vendepunkt:

1. Agentdesign trumfer modellstørrelse. Smart oppsummering slår dum skalering.
2. Strukturert minne er minimum. Agenten må resonnere over fortiden, ikke famle fremover.
3. Feltet er ungt. RTV og destillasjon virker nå, men er ikke standard. Tidlig inn? Fordel.
4. Inferens-optimalisering er fremtiden. Når modellene flater ut, vinner effektiviteten under kjøring.

Fremtiden: Smartere bruk av kraften vi har

"Bigger is better"-tiden ebber ut. Inn kommer finere måter å utnytte regnekraften på.

For AI-drevet utvikling og autonome kodere? Vinnerne blir de som lærer raskest av feil, husker forsøkene og vurderer dem selv.

Ikke lengre parametre som teller. Hukommelse og dømmekraft definerer neste generasjon. Det er et spennende puslespill.