Hvad selvfremmende kode-agenter lærte mig om at arbejde med AI

Da jeg først begyndte at eksperimentere med AI-kodningsagenter, der kunne undersøge og forbedre deres egen output, forventede jeg at blive imponeret over den tekniske sophistication. Det, jeg ikke havde regnet med, var at gå derfra med en fundamentalt anderledes forståelse af, hvordan mennesker bør samarbejde med store sprogmodeller.

To måneders daglig interaktion med disse agenter – hvor jeg observerede dem reflektere over deres egen ræsonnement, identificere mønstre i deres fejl og systematisk forbedre deres tilgange – ændrede min tænkning om alt fra prompt engineering til arkitekturen i moderne udviklingsworkflows.

Spejleffekten

Det, der overraskede mig mest, var dette: selvfremmende agenter bliver ikke bare bedre til at kode. De bliver bedre til at afsløre, hvad vi har gjort forkert hele tiden.

Når en agent undersøger sine egne seneste outputs og spørger "Hvorfor valgte jeg denne tilgang?", dukker der ofte antagelser op, som vi aldrig selv havde indset, vi lavede. Jeg så en agent spore en tilbagevendende bug til en subtil inkonsistens i, hvordan den havde fortolket navngivningskonventioner. Agentens introspection afslørede, at jeg selv havde været inkonsekvent i min egen navngivning gennem hele projektet – et mønster så indgroet, at jeg aldrig havde bemærket det.

Denne spejleffekt gælder også for prompting. Agenter, der reflekterer over deres interaktioner, viser os ofte, at vores prompts indeholder skjulte modsætninger eller implicitte antagelser. Når du ser en agent kæmpe med en opgave og derefter analyserer, hvorfor den kæmpede, opdager du tit, at forvirringen stammer fra tvetydige instruktioner, som du troede var klare.

Den rekursive forbedringsproces

Selvfremmende agenter fungerer ved at undersøge deres egen historie – deres succeser og fejl – og bruge den analyse til at informere fremtidige beslutninger. Dette rekursive mønster har en fascinerende implikation: kvaliteten af forbedringen afhænger kraftigt af kvaliteten af feedback.

Agenter, der modtager præcis, kontekstuel feedback om hvorfor noget virkede eller ikke virkede, forbedrer sig meget hurtigere end dem, der blot modtager succes/fejl-signaler. Dette lærte mig noget værdifuldt om mine egne udviklingspraksisser:

God feedback er specifik og kausal. I stedet for at fortælle en agent "dette er forkert", lærte jeg at sige "dette fejlede, fordi det ikke tog højde for edge case X i scenario Y." Agenter, der modtager kausal feedback, udvikler meget bedre intuitioner om lignende problemer i fremtiden.

Dette afspejler, hvordan de bedste teams introducerer juniorudviklere. Ingen forbedrer sig, når feedback bare er "det ser ikke rigtigt ud". Forbedring sker, når vi forklarer ræsonnementet bag vores standarder.

abstractionsproblemet

Et af de mest slående mønstre, jeg observerede, var, hvordan agenter håndterer abstraktion – eller fejler i at håndtere den.

Når agenter behandler requests, arbejder de ofte på niveauet af de specifikke tokens og mønstre, de har set, snarere end at danne sig en reel forståelse af de underliggende principper. En selvfremmende agent bemærker måske "jeg har set dette mønster 47 gange" uden at udvikle den konceptuelle ramme, der ville gøre det muligt at håndtere den 48. instans, der er lidt anderledes.

Dette er præcis det problem, der plager begynderudviklere, som har lært mønstre uden at forstå principperne. Og det er en nyttig advarsel til alle, der læner sig tungt på AI-assistance: mønstergenkendelse bringer dig langt, men abstraktion er det, der lader dig håndtere de nye situationer, som mønstergenkendelse ikke kan forudsige.

Implikationen for udviklere er betydelig. Efterhånden som AI-kodningsassistenter bliver mere kapable, ligger menneskets komparative fordel i stigende grad i abstraktion – evnen til at se det generelle princip, der forbinder tilsyneladende forskellige specifikke tilfælde.

At bygge til agent-menneske-grænsefladen

Måske den mest praktiske lektion fra at observere selvfremmende agenter handlede om projektstruktur. Codebases, der fungerer godt for menneskeligt samarbejde, fungerer ikke altid godt for AI-samarbejde, og omvendt.

Agenter excellerer, når projekter har:

• Klare, konsistente navngivningskonventioner
• Veldokumenterede afhængigheder
• Forudsigelige filstrukturer
• Eksplicitte fejlhåndteringsmønstre

Agenter kæmper med projekter, der er stærkt afhængige af implicit kontekst – hvor forståelsen af, hvorfor noget virker, kræver viden om historiske beslutninger, der ikke er fanget i koden selv.

Dette antyder en ny dimension i projektarkitektur: at designe til AI-grænsefladen side om side med menneske-grænsefladen. Når du bygger et projekt, der vil udnytte AI-assistance tungt, kan nogle traditionelle praksisser have brug for justering. Eksplicit er bedre end implicit. Dokumentation er ikke kun til fremtidige mennesker – det er til fremtidige agenter.

Forbindelsen til Vibe Coding

Hos NameOcean taler vi meget om "vibe coding" – den voksende praksis med at bruge AI til at accelerere udvikling, mens man bevarer kreativ kontrol. Min erfaring med selvfremmende agenter har afklaret noget vigtigt om, hvad der får vibe coding til at fungere.

Vibe coding handler ikke om at lade AI overtage. Det handler om at finde den rette arbejdsdeling mellem menneskelig dømmekraft og AI-kapabilitet. De introspektive agenter viste mig, at denne arbejdsdeling fungerer bedst, når:

1. Mennesker håndterer abstraktion og principper. Vi definerer den konceptuelle ramme, der guider projektet.

2. Agenter håndterer implementering og mønstreksækvering. De omsætter vores principper til fungerende kode, følger de mønstre, vi har etableret.

3. Begge deltager i kontinuerlige feedback-loops. Hverken mennesket eller AI'en bør operere i et vakuum.

De selvfremmende agenter, der fungerede bedst, var dem der opretholdt en produktiv dialog med deres menneskelige samarbejdspartnere – modtog high-level vejledning, udførte specifikke opgaver og rapporterede tilbage om, hvad der virkede, og hvad der ikke gjorde.

Hvad dette betyder for udviklingsteams

Hvis selvfremmende kodningsagenter lærer os noget, er det, at fremtiden for udvikling ikke handler om at erstatte menneskelig dømmekraft med AI-kapabilitet. Det handler om at skabe bedre feedback-loops mellem menneskelig og maskinel intelligens.

For udviklingsteams, der ønsker at adoptere AI-assisterede workflows, antyder dette nogle konkrete praksisser:

• Invester i din feedback-kvalitet. Jo bedre dit team bliver til at forklare, hvorfor noget virker eller ikke virker, desto mere effektivt vil AI-værktøjer forbedre sig.

• Dokumentér ikke bare hvad, men hvorfor. Fremtidige AI-samarbejdspartnere vil have gavn af at forstå ræsonnementet bag beslutninger, ikke kun udfaldene.

• Design med henblik på klarhed. Projekter med eksplicit struktur og forudsigelige mønstre vil udnytte AI-assistance mere effektivt.

• Behandl AI-værktøjer som samarbejdspartnere, ikke magiske bokse. Agenter, der forbedrer sig, er agenter, der modtager god input. Det samme princip gælder for enhver AI-assisteret workflow.

Det store billede

Der er noget dybt ved at observere et AI-system undersøge sit eget ræsonnement. Det tvinger os til at konfrontere det faktum, at disse systemer, på trods af deres imponerende kapabiliteter, stadig er mønstergenkendelsesmotorer, der opererer på sandsynligheder udledt fra træningsdata.

Men her er sagen: menneskelig intuition er det også. Forskellen ligger i vores evne til at abstrahere, til at ræsonnere kausalt og til at kommunikere vores ræsonnement til andre. Disse er de kapabiliteter, der forbliver distinkt menneskelige, selv når AI-værktøjer bliver mere sofistikerede.

Lektionerne fra selvfremmende kodningsagenter handler egentlig ikke om agenterne selv. De handler om os – hvad vi bringer til samarbejdet, hvad vi kan lære af at observere AI-systemer arbejde, og hvordan vi kan strukturere vores praksisser for at få det maksimale ud af de værktøjer, vi har til rådighed.

Efterhånden som AI-assisteret udvikling bliver normen snarere end undtagelsen, bliver disse indsigter stadig mere værdifulde. De udviklere, der trives, vil være dem, der forstår ikke bare hvad AI kan gøre, men hvordan man arbejder med AI effektivt.

Og nogle gange er den bedste måde at lære om det samarbejde at se en agent lære om sig selv.

Hvad har dine erfaringer med AI-kodningsagenter lært dig? Landskabet udvikler sig hurtigt, og de mønstre, vi observerer i dag, vil forme udviklingspraksisser i årene fremover.