Vad självförbättrande kodningsagenter lärde mig om att arbeta med AI

När jag började experimentera med AI-agenter som kunde granska och förbättra sin egen output förväntade jag mig att bli impad av den tekniska sofistikeringen. Det jag inte hade räknat med var att gå därifrån med en fundamentalt annorlunda förståelse för hur vi människor borde samarbeta med stora språkmodeller.

Två månader av daglig interaktion med dessa agenter – att se dem reflektera över sin egen resonemang, identifiera mönster i sina misstag och systematiskt förbättra sina tillvägagångssätt – förändrade hur jag tänker om allt från prompt engineering till arkitekturen för moderna utvecklingsarbetsflöden.

Spegeleffekten

Det som överraskade mig mest var detta: självförbättrande agenter blir inte bara bättre på kodning. De blir bättre på att avslöja vad vi har gjort fel hela tiden.

När en agent granskar sina egna senaste outputs och frågar "Varför valde jag det här tillvägagångssättet?" så kommer den ofta upp med antaganden som vi aldrig insåg att vi gjorde. Jag såg en agent spåra ett återkommande bugg till en subtil inkonsekvens i hur den hade tolkat variabelnamngivningskonventioner. Agentens introspektion avslöjade att jag hade varit inkonsekvent i min egen namngivning genom hela projektet – ett mönster så inrotat att jag aldrig lade märke till det.

Den här spegeleffekten sträcker sig till prompting. Agenter som reflekterar över sina interaktioner visar oss ofta att våra prompts innehåller dolda motsägelser eller implicita antaganden. När du ser en agent kämpa med en uppgift och sedan analyserar varför den kämpade, upptäcker du ofta att förvirringen uppstod från tvetydiga instruktioner som du trodde var tydliga.

Den rekursiva naturen hos förbättring

Självförbättrande agenter fungerar genom att granska sin egen historia – sina framgångar och misslyckanden – och använda den analysen för att informera framtida beslut. Det här rekursiva mönstret har en fascinerande konsekvens: kvaliteten på förbättringen beror kraftigt på kvaliteten hos feedbacken.

Agenter som får precis, kontextuell feedback om varför något funkade eller inte funkade förbättras mycket snabbare än de som bara får framgång/misslyckande-signaler. Det här lärde mig något värdefullt om mina egna utvecklingsrutiner:

Bra feedback är specifik och kausal. Istället för att berätta för en agent "det här är fel" lärde jag mig att säga "det här misslyckades för att det inte räknade med edge case X i scenario Y." Agenter som får kausal feedback utvecklar mycket bättre intuition om liknande problem i framtiden.

Det här speglar hur de bästa teamen introducerar juniorutvecklare. Ingen förbättras när feedbacken bara är "det ser inte rätt ut." Förbättring sker när vi förklarar resonemanget bakom våra standarder.

Abstraktionsproblemet

Ett av de mest slående mönstren jag observerade var hur agenter hanterar abstraktion – eller misslyckas med att hantera den.

När agenter processar förfrågningar arbetar de ofta på nivån av de specifika tokens och mönster de har sett, snarare än att verkligen abstrahera de underliggande principerna. En självförbättrande agent kanske märker "Jag har sett det här mönstret 47 gånger" utan att utveckla det konceptuella ramverk som skulle göra det möjligt att hantera det 48:e fallet som är lite annorlunda.

Det här är exakt samma problem som plågar nybörjarutvecklare som har lärt sig mönster utan att förstå principerna. Och det är en användbar varning för alla som förlitar sig tungt på AI-assistans: mönstermatchning tar dig långt, men abstraktion är det som gör att du kan hantera de nya situationerna som mönstermatchning inte kan förutsäga.

Implikationen för utvecklare är betydande. Allt eftersom AI-kodningsassistenter blir mer kapabla, ligger människans komparativa fördel alltmer i abstraktion – förmågan att se den allmänna principen som förbinder disparata specifika fall.

Bygga för agent-människa-gränssnittet

Kanske den mest praktiska läxan från att observera självförbättrande agenter handlade om projektstruktur. Kodbaser som fungerar bra för mänskligt samarbete fungerar inte alltid bra för AI-samarbete, och vice versa.

Agenter utmärker sig när projekt har:

• Tydliga, konsekventa namngivningskonventioner
• Väl dokumenterade beroenden
• Förutsägbara filstrukturer
• Explicita felhanteringsmönster

Agenter kämpar med projekt som förlitar sig tungt på implicit kontext – där förståelsen för varför något fungerar kräver att man känner till historiska beslut som inte fångas i koden själv.

Det här antyder en ny dimension av projektarkitektur: designa för AI-gränssnittet vid sidan av mänskligt gränssnitt. När du bygger ett projekt som kommer att utnyttja AI-assistans tungt kan vissa traditionella metoder behöva justeras. Explicitt är bättre än implicit. Dokumentation är inte bara för framtida människor – det är för framtida agenter.

Vibe Coding-kopplingen

På NameOcean pratar vi mycket om "vibe coding" – den framväxande praktiken att använda AI för att accelerera utveckling samtidigt som man behåller kreativ kontroll. Min erfarenhet av självförbättrande agenter har klargjort något viktigt om vad som gör vibe coding framgångsrik.

Vibe coding handlar inte om att låta AI ta över. Det handlar om att hitta rätt arbetsfördelning mellan mänskligt omdöme och AI-kapacitet. De introspektiva agenterna visade mig att den här divisionen fungerar bäst när:

1. Människor hanterar abstraktion och principer. Vi definierar det konceptuella ramverk som vägleder projektet.

2. Agenter hanterar implementering och mönsterexekvering. De översätter våra principer till fungerande kod, följer de mönster vi har etablerat.

3. Båda deltar i kontinuerliga feedbackloopar. Varken människan eller AI:n bör arbeta i ett vakuum.

De självförbättrande agenter som fungerade bäst var de som upprätthöll en produktiv dialog med sina mänskliga medarbetare – tog emot högnivåvägledning, exekverade specifika uppgifter och rapporterade tillbaka om vad som funkade och vad som inte gjorde det.

Vad det här betyder för utvecklingsteam

Om självförbättrande kodningsagenter lär oss något så är det att framtiden för utveckling inte handlar om att ersätta mänskligt omdöme med AI-kapacitet. Det handlar om att skapa bättre feedbackloopar mellan mänsklig och maskinell intelligens.

För utvecklingsteam som vill anta AI-assisterade arbetsflöden antyder det här några konkreta metoder:

• Investera i er feedbackkvalitet. Ju bättre ert team blir på att förklara varför något fungerar eller inte fungerar, desto effektivare kommer AI-verktyg att förbättras.

• Dokumentera inte bara vad, utan varför. Framtida AI-samarbetare kommer att dra nytta av att förstå resonemanget bakom beslut, inte bara utfall.

• Designa för tydlighet. Projekt med explicit struktur och förutsägbara mönster kommer att utnyttja AI-assistans mer effektivt.

• Behandla AI-verktyg som samarbetspartners, inte magiska lådor. Agenter som förbättras är agenter som får bra input. Samma princip gäller för alla AI-assisterade arbetsflöden.

Den större bilden

Det finns något djupt med att observera ett AI-system granska sitt eget resonemang. Det tvingar oss att konfrontera det faktum att dessa system, trots sina imponerande förmågor, fortfarande är mönstermatchningsmotorer som opererar på sannolikheter härledda från träningsdata.

Men här är grejen: detsamma gäller mänsklig intuition. Skillnaden ligger i vår förmåga att abstrahera, att resonera kausalt och att kommunicera vårt resonemang till andra. Det här är de förmågor som förblir distinkt mänskliga även när AI-verktyg blir mer sofistikerade.

Lektionerna från självförbättrande kodningsagenter handlar egentligen inte om agenterna själva. De handlar om oss – vad vi tillför samarbetet, vad vi kan lära oss av att observera AI-system arbeta, och hur vi kan strukturera våra metoder för att få ut det mesta av de verktyg som finns tillgängliga för oss.

Allt eftersom AI-assisterad utveckling blir normen snarare än undantaget, blir dessa insikter alltmer värdefulla. Utvecklarna som kommer att trivas är de som förstår inte bara vad AI kan göra, utan hur man arbetar med AI effektivt.

Och ibland, det bästa sättet att lära sig om det samarbetet är att se en agent lära sig om sig själv.

Vad har dina erfarenheter av AI-kodningsagenter lärt dig? Landskapet utvecklas snabbt, och mönstren vi observerar idag kommer att forma utvecklingsmetoder under år framåt.