Smartte summering: Sådan ændrer AI-kodegeneratorer spillet

Det skjulte problem i kompleks kodeudvikling

Alle snakker om at pumpe mere regnekraft ind i AI. Det virker fint til simple opgaver. Bed en LLM om et digt, kør det tre gange, vælg det bedste. Bugfix? Stadig okay.

Men lad agenten tage fat i en rigtig softwareudfordring. Flere trin, beslutninger der rammer hinanden, fejl der bygger op. Her krakelerer den gamle metode.

Frustrationen? Agenten laver ikke bare et svar. Den bygger en hel sti af valg, kodeforsøg, fejl og fremskridt. Måske tester den fem veje, støder på vægge, bakker og lærer af det. Kør den igen fra bunden? Alt det værdifulde forsvinder.

Det er som at bede en udvikler løse det samme uden sine noter.

Nøglen: At huske, hvad du har lært

Problemet er ikke flere forsøg. Det er at gemme vidennen.

Forestil dig at pakke hvert forsøg ned i en smart opsummering. Ikke en lang log (for meget), ikke kun tal (for groft). Noget midt imellem: Essensen af, hvad agenten opdagede.

Agenten kan så tænke: "Sidst prøvede jeg mutationer og ramte den fejl. Nu skifter jeg til noget andet." Det er intelligens, ikke brute force.

Pointen? Skalering af agenter handler om repræsentation, valg og genbrug. Ikke bare rå hastighed.

To smarte skaleringstricks: Parallel og sekventiel

Her er to metoder, der passer sammen:

Parallel skalering med turneringsstemme

Kør flere agenter side om side, hver på sin sti. Udfordringen: Sammenligne en masse komplekse løb er et mareridt.

Recursive Tournament Voting (RTV) fikser det. Del dem i små grupper, stem head-to-head, lad vindere kæmpe videre. Som en knockout-turnering for kode. Mindre regnekraft, samme kvalitet.

Sekventiel skalering med videdestillation

Efter hvert løb: Udtræk lektioner. Hvad virkede, hvad fejlede, hvilke veje var tæt på. Næste runde starter med den viden – ikke fra nul.

Ligesom en udvikler der læser sine egne PR-kommentarer før næste go.

Resultaterne i tal

Forskere testede det på topmodeller:

• Claude på SWE-Bench Verified: Fra 70,9% til 77,6% succes.
• Terminalopgaver: Fra 46,9% til 59,1%.

Store løft på allerede stærke systemer. Smartere brug af kraft, ikke større modeller.

Den store vending

Det her skifter paradigmet. Længe har vi jagtet større modeller, flere parametre, mere data. Det holder endnu.

Men i lange, åbne opgaver som kode, admin eller ræsonnement? Størrelse giver hurtigt mindre værdi. Nu handler det om at lære af erfaring og bygge videre.

Et mindre model med god hukommelse slår et stort i ensomhed.

Hvad det betyder for dig som udvikler eller startup

Bygger du med AI-agenter – måske på NameOcean's Vibe Hosting eller custom setup? Her er signalerne:

1. Agentarkitektur slår modelstørrelse. Smart opsummering vinder over rå kraft.
2. Struktureret hukommelse er must. Agenten skal tænke over fortiden.
3. Tidligt stadie. RTV og destillation er hedt, men ikke hverdag. Først til møllen vinder.
4. Inference er det nye sorte. Optimering under kørsel bliver afgørende.

Fremtiden kalder

"Bigger is better" er forbi. Nu handler det om at bruge compute smartere.

For AI-kode og autonome systemer vinder agenter, der lærer af fejl, husker forsøg og reflekterer.

Ikke de med flest parametre. De med bedste hukommelse og dømmekraft.

Det åbner døre uden at vente på næste mega-model. Et spændende kapitel starter.