Derfor mister jeg ikke nattesøvnen over AI-generert kode

Forrige uke så jeg en demonstrasjon som hadde vært Science Fiction for bare tre år siden. Et AI-system lagde en fungerende kompilator som kunne bygge kode for flere ulike prosessorarkitekturer. Ikke noe leketøy. Ikke en prototype. En skikkelig, fungerende kompilator som besto 99% av bransjestandard tester.

Dette er altså hvor vi er nå.

Utviklingen innen AI-kodegenerering har vært eventyrlig. Vi har gått fra å tippe neste ord i en setning, til å tippe hele funksjoner, deretter hele filer, og nå – i økende grad – hele prosjekter. Med denne kapasitetseksplosjonen har det oppstått et fascinerende fenomen: det fellesskapet kaller «vibe forks».

En vibe fork, enkelt forklart, er resultatet av å bruke vibe coding til å lage en clean-room implementasjon av eksisterende programvare. Man kopierer ikke kode. Man gjenskaper funksjonalitet fra bunnen av, fremkalt av stadig mer kapable AI-systemer. Kildekoden er ikke lenger den naturgitte fordelen – det var den egentlig aldri. Kunnskapen om hvordan ting fungerer er blitt absorbert inn i treningsdata og kodet inn i modellvektene.

Carlini-eksperimentet

Kanskje det mest slående eksempelet kommer fra fersk AI-forskning. Seksten AI-agenter ble sluppet løs på en felles kodebase for å bygge en C-kompilator fra scratch. Etter nesten 2000 økter og 20 000 dollar i API-kostnader, produserte de en 100 000 linjers kompilator som kunne bygge Linux 6.9 på x86, ARM og RISC-V-arkitekturer. Den kompilerer til og med DOOM.

La det synke inn.

Hundre tusen linjer med produksjonskvalitet kompilatorkode. Tre distinkte prosessorarkitekturer. En kernel som faktisk starter. Dette er ikke et helgeprosjekt – dette er programvare som tok forskere år å bygge, reprodusert av autonome agenter over et par ukers beregningstid.

Den umiddelbare reaksjonen er enten eufori eller eksistensiell angst, avhengig av hvor du sitter. Men jeg tror virkeligheten er mer nyansert, og ærlig talt, mer interessant.

Min kontroversielle mening

Her kommer mitt kontroversielle standpunkt: vibe forks er imponerende, men de er ikke den eksistensielle trusselen mot programvareutviklere som de kan fremstå som.

Tenk på økonomien i overfloden. Når hvem som helst kanpromptle frem en C-kompilator, slutter artefakten å være knapp. Det som blir knapt er dømmekraft – spesielt dømmekraft om hvilken av de mange genererte alternativene som er korrekt, vedlikeholdt, sikker, og verdt å stole på i produksjonssystemene dine.

Dette mønsteret har vi sett før. Se på app-butikker. Kostnaden for å klone er allerede nær null. Barrieren for å legge ut er lav. Resultatet? Hundre habit-trackere, tusen lommelykt-apper, et hav av nesten identiske produktivitetsverktøy. Klonene eksisterer. De bare aldri helt videre.

Det som skiller vinnerne fra haugen er ikke funksjoner. Det er kuratering, oppdagelse, tillit og omdømme. Den redaksjonelle omtalen, brukeranmeldelsene, stjerne-ratingene, merkevaren som tok år å bygge. Du kan kopiere funksjonslisten over natten. Du kan ikke kopiere tilliten.

Den etablerte aktørens skjulte fordel

Her er noe kontraintuitivt: akkurat den egenskapen som gjør vibe forking mulig, hjelper faktisk de etablerte aktørene mer enn nykommerne.

Mye utbredt programvare har vært i treningsdata utallige ganger. Den har blitt utsatt for corner cases og edge conditions som utviklere brukte år på å oppdage og fikse. Modellen er god på å vedlikeholde denne programvaren nettopp fordi verden allerede har gjort det harde arbeidet med å finne ut hva som er galt.

En fersk vibe fork har ingen av denne historikken. Den fungerer kanskje strålende for happy path. Men det mystiske krasjet som bare skjer når du prosesserer en fil med Unicode-tegn midt på en tirsdag ettermiddag i november? Det tok noen tre måneder å spore opp. Det er ikke i prompten din. Det er institusjonell kunnskap innebygd i den originale kodebasen.

Modellene er genuint bedre på å vedlikeholde det verden allerede har lært å vedlikeholde. Det er ikke rettferdig, men det er sant.

Det menneskelige elementet som ikke skalerer

Og så er det brukerstøtte. Der faller vibe forks virkelig gjennom, og jeg tror det er den mest undervurderte fordelen i hele denne diskusjonen.

Agentisk AI kan absolutt håndtere greenfield-prosjekter. Bygge noe nytt fra scratch? Modellen er bemerkelsesverdig kapabel. Men ekte programvare er ikke greenfield. Ekte programvare er brownfield. Den har akkumulert avhengigheter, legacy-integrasjoner, rare konfigurasjoner, og den oppsamlede teknisk gjeld fra år med «dette fikser vi senere.»

Hvert modent prosjekt bærer på essensiell kompleksitet – den iboende vanskeligheten i problemet det løser. Men det bærer også på akkidentell kompleksitet, den typen som sniker seg inn over tid gjennom skiftende krav, turnover, og de tusen små beslutningene som virket fornuftige da.

Å redusere den akkidentelle kompleksiteten? Det er en dypt menneskelig oppgave. Det krever forståelse av kontekst som kanskje aldri er blitt skrevet ned. Det krever samtaler med brukere om hva de egentlig trenger. Det krever skjønnsmessige avgjørelser om avveininger som bare gir mening gitt organisasjonens historikk.

AI-agenter kan hjelpe med alt dette. Men de kan ikke gjøre det alene, og de kan absolutt ikke gjøre det for en fersk fork som ikke har de relasjonene eller den konteksten.

Den virkelige muligheten

Her er hva jeg virkelig tror skjer med vibe forks: de eliminerer ikke verdien av god programvare. De demokratiserer muligheten til å bygge ny programvare.

Folk som var blokkert fra å skape fordi de ikke kunne C eller ikke hadde års erfaring med kompilatorer? De er nå ublokkert. Startupene som ikke hadde råd til å bygge infrastruktur fra scratch? De kan prototype og validere idéer raskere enn noensinne.

Det vibe forks ikke lett kan replikere, er den akkumulerte tilliten, fellesskapet og institusjonell kunnskap som gjør programvare verdifull over tid. Det bygges fortsatt på den gamle måten: gjennom år med levering, lytting, fiksing og iterering.

Så ja, barrieren for å gjenskape programvare har sunket dramatisk. Men barrieren for å skape programvare som betyr noe – den typen folk stoler på med sin virksomhet og sin fritid – krever fremdeles det menneskelige elementet. Det vil den alltid gjøre.

Spørsmålet er ikke om AI kan bygge drømmene dine. Det kan. Spørsmålet er om du kan bygge noe verdt å vedlikeholde.