När "vibe coding" går för långt: AI-vapenfrågan och vad den betyder för techvärlden

En ny verklighet för mjukvaruutveckling

Uttrycket "vibe coding" har blivit lite av ett skämt bland techare. Det handlar om att bygga mjukvara genom att i praktiken låta AI sköta det tunga jobbet medan du mest peppar på. Det har blivit en meme, ett slags hedersmärke för grundare som lanserar MVP:er utan att egentligen förstå koden bakom.

Men vad händer när den här filosofin tillämpas på något mycket farligare än en SaaS-app eller en chatbot?

Meet WASP

Cody Wilson – ja, den Cody Wilson – har precis avtäckt det han kallar "världens första AI-genererade vapen". WASP är en 3D-printad .22-kalibrig pistol som designades genom en naturlig språkdialog med en custom-modell vid namn GatGPT. Hela utvecklingsprocessen, från vapnets namn till säkerhetsmodifikationer, ska ha uppstått genom samarbete mellan människa och AI.

Låt mig vara tydlig: WASP är primitiv. Under tester missade den att avfyras vid första försöket. Greppet har en "bisarr, surrealistisk kvalitet" som inte riktigt passar en mänsklig hand – klassiska AI-genererade konstigheter.

Men här är grejen som borde hålla alla i techindustrin vakna om natten: den fungerade. Vapnet avfyrade riktiga, dödliga skott. Och det har inget serienummer.

Tillgänglighetsproblemet

I åratal har det krävts teknisk expertis för att skapa ett fungerande 3D-printat vapen. Man behövde förstå ballistik, metallurgi och CAD-design. Nu påstår Wilson att en nybörjare med "några enstaka prompts" potentiellt kan tillverka ett vapen. GatGPT hämtar från DEFCAD, hans digra repository av digitala vapenfiler, och kan guida användare steg för steg.

Det här är mardrömsscenariot som AI-säkerhetsexperter har varnat för. Vi har lagt ner mycket energi på att diskutera hur generativ AI kan automatisera bort jobb eller sprida desinformation. Men automatiserad vapentillverkning? Det är en helt annan femma.

Yttrandefrihet kontra kod

Wilsons försvarare hävdar att vapenfiler är bara dator kod – digital information som skyddas av principen om friYttrandefrihet. Det här argumentet har stångats fram och tillbaka i domstol i över ett decennium. Nu adderar AI en ny dimension: om kod är yttrandefrihet, har då en AI som genererar sådan kod yttrandefrihet? Och i så fall – vad betyder det för ansvar?

Vad det här betyder för AI-branschen

Här blir det obekvämt för den bredare techgemenskapen. Vi har firat AI:s förmåga att sänka trösklarna för skapande. Kod kräver inte längre år av CS-utbildning. Appar kan byggas med vanligt språk. Och ja, det är för det mesta fantastiskt – det ger ensamföretagare kraft och demokratiserar teknik.

Men WASP är en skarp påminnelse om att tillgänglighet är ett dubbeleggat svärd. Varje gång vi gör AI-system mer kapabla och lättare att använda, gör vi också skadliga aktiviteter mer tillgängliga. Frågan är inte om teknik är inherent bra eller dålig; det handlar om intention i design och implementering.

Som utvecklare och byggare har vi ett ansvar att tänka bortom det lyckliga spåret för våra verktyg. AI-gemenskapen har börjat tampas med detta genom initiativ som AI Safety Institute och diverse alignment-forskningsprogram. Men samtal om vapentillverkning verkar leva i en separat silo från diskussioner om prompt engineering eller deploymentstrategier.

WASP kanske är primitiv. Den kan ha misslyckats vid demonstrationen. Men riktningen är tydlig: de här systemen kommer att bli bättre. Och när de gör det kan samtalet om AI-etik inte förbli teoretiskt.

Techindustrin älskar att prata om att bygga framtiden. Ibland behöver vi ställa tuffare frågor om vilka framtider vi egentligen möjliggör.

Vad tycker du om AI:s roll i dubbelanvända teknologier? Borde det finnas fler spärrar på plats, eller faller det under argumentet att "verktyg kan användas för gott eller ont"?