Når "Vibe Coding" Går Amok: AI-Våbenkontroversen og Hvad Den Betyder for Tech-Etik

Udtrykket "vibe coding" har spredt sig i techmiljøet som en humoristisk måde at beskrive softwareudvikling, hvor man i bund og grund lader AI klare det hårde arbejde gennem prompts. Det er blevet en meme, et sort bælte for grundlæggere, der shipper MVPs uden at have styr på koden under overfladen. Men hvad sker der, når denne filosofi pludselig bliver brugt på noget langt farligere end en SaaS-app?

Cody Wilson – ja, den Cody Wilson – har for nylig præsenteret det, han kalder "det første AI-genererede våben." WASP er et 3D-printet .22 kaliber håndvåben, designet via en naturlig-sproglig dialog med en custom model ved navn GatGPT. Hele udviklingsprocessen – fra navngivning til sikkerhedsmodifikationer – skulle angiveligt være opstået gennem menneske-AI samarbejde.

Lad os være ærlige: WASP er primitivt. Under test skød det fejl i første forsøg. Grebet har en "bizart, surrealistisk kvalitet," der ikke rigtig passer til en menneskehånd – klassiske AI-genererede ejendommeligheder. Men her er det, der burde holde alle i tech-branchen vågne om natten: det fungerede. Våbenet affyrede ægte, dødelige skud. Og det har ingen serienummer.

Tilgængelighedsproblemet

I årevis krævede det teknisk knowhow at skabe et funktionelt 3D-printet våben. Man skulle forstå ballistik, metallurgi og CAD-design. Nu hævder Wilson, at en begynder med "nogle enkelte prompts" potentielt kunne fremstille et våben. GatGPT trækker fra DEFCAD – hans massive lager af digitale våbenfiler – og kan guide brugere gennem hele processen trin for trin.

Det her er det mareridtsscenario, som AI-sikkerhedseksperter har advaret om. Vi har brugt en del energi på at diskutere, hvordan generativ AI kan automatisere jobs eller sprede misinformation. Men automatiseret våbenfremstilling? Det er en helt anden boldgade.

Ytringsfrihed vs. kode-debatten

Wilsons forsvarere argumenterer for, at våbenfiler blot er computerkode – digital information beskyttet under ytringsfrihedsprincipper. Dette argument har været ført ved domstolene i over et årti, med sager der igen og igen cirkler omkring præcis dette spørgsmål. Nu tilføjer AI en ny dimension: hvis kode er tale, har en AI, der genererer sådan kode, så First Amendment-rettigheder? Og i så fald – hvad betyder det for ansvar?

Hvad Dette Betyder for AI-Industrien

Her bliver det ubelejligt for techmiljøet bredt set. Vi har fejret AIs evne til at sænke barriererne for skabelse. Kode kræver ikke længere års CS-uddannelse at producere. Apps kan bygges med naturligt sprog. Og ja, det er stort set fantastisk – det giver solo-grundlæggere mulighed for at handle og demokratiserer teknologi.

Men WASP er en brutal påmindelse om, at tilgængelighed har en bagside. Hver gang vi gør AI-systemer mere capable og lettere at bruge, gør vi også skadelige aktiviteter mere tilgængelige. Spørgsmålet er ikke, om teknologi er enten god eller ond i sig selv; det handler om intentionalitet i design og udrulning.

Som udviklere og builders har vi et ansvar for at tænke ud over den lykkelige sti, vores værktøjer baner. AI-miljøet er begyndt at tage fat på dette gennem initiativer som AI Safety Institute og diverse alignment forskningsprogrammer. Men samtaler om våbenfremstilling ser ud til at leve i en separat boks fra diskussionerne om prompt engineering eller deploymentstrategier.

WASP kan være primitivt. Det kan have fejlet under demonstrationen. Men retningen er klar: disse systemer vil blive bedre. Og når de gør, kan samtalen om AI-etik ikke længere forblive teoretisk.

Tech-branchen elsker at tale om at bygge fremtiden. Nogle gange er vi nødt til at stille sværere spørgsmål om hvilke fremtider vi egentlig enabled.

Hvad tænker du om AIs rolle i dual-use teknologier? Bør der være flere sikkerhedsforanstaltninger på plads, eller falder det ind under "værktøjer kan bruges til godt eller ondt"-argumentet? Lad os diskutere.