Wenn "Vibe Coding" zum Problem wird: Die KI-Waffe und die Ethik-Frage in der Tech-Branche

"Vibe Coding" schwirrt gerade durch die Tech-Szene wie ein lockerer Spruch. Gemeint ist damit: Software bauen, indem man eine KI mehr oder weniger die Arbeit machen lässt. Es ist zum Running Gag geworden – ein kleiner Stolz für Gründer, die MVPs raushauen, ohne wirklich zu wissen, was im Code passiert. Aber was, wenn genau diese Denkweise plötzlich auf etwas angewendet wird, das deutlich gefährlicher ist als eine SaaS-App?

Cody Wilson – ja, der Cody Wilson – hat kürzlich das vorgestellt, was er als "erste KI-generierte Waffe" bezeichnet. Die WASP ist eine .22er Pistole aus dem 3D-Drucker. Entwickelt wurde sie durch ein Gespräch mit einem speziell trainierten Modell namens GatGPT. Vom Namen über Sicherheitsmodifikationen – alles soll aus dieser Mensch-KI-Kollaboration entstanden sein.

Klar, die WASP ist unbearbeitet. Beim Testlauf gab es Fehlzündungen. Der Griff sitzt schief, hat etwas "bizarr Surrealistisches" – typisch KI-Output eben. Aber was trotzdem für Unbehagen sorgen sollte: Die Waffe funktioniert. Es wurden echte, tödliche Schüsse abgefeuert. Und sie hat keine Seriennummer.

Das Zugänglichkeits-Problem

Bisher brauchte man für eine funktionierende 3D-gedruckte Waffe handfestes Fachwissen. Ballistik, Metallkunde, CAD-Design – all das gehörte dazu. Jetzt behauptet Wilson, ein kompletter Neuling könnte das mit "ein paar Prompts" schaffen. GatGPT greift auf sein DEFCAD-Archiv zu, eine riesige Sammlung digitaler Waffendateien, und führt Schritt für Schritt durch den Prozess.

Genau dieses Szenario haben KI-Sicherheitsexperten befürchtet. Wir haben viel Energie darauf verwendet, darüber zu diskutieren, wie generative KI Jobs automatisieren oder Desinformation verbreiten könnte. Aber automatisierte Waffenherstellung? Das ist eine ganz andere Hausnummer.

Meinungsfreiheit gegen Code

Wilsons Verteidiger bringen ein altbekanntes Argument: Waffendateien seien doch nur Computercode – digitale Informationen, die unter Meinungsfreiheit fallen. Diese Debatte schwelt seit über einem Jahrzehnt, mit Prozessen, die sich immer wieder um genau diese Frage drehen. Jetzt kommt die KI ins Spiel: Wenn Code tatsächlich Rede ist – hat dann eine KI, die solchen Code erzeugt, First-Amendment-Rechte? Und was bedeutet das für die Haftung?

Was das für die KI-Branche bedeutet

Hier wird es unangenehm für die breitere Tech-Gemeinschaft. Wir haben die Fähigkeiten von KI gefeiert, Barrieren zu senken. Code braucht keine jahrelange CS-Ausbildung mehr. Apps lassen sich mit normaler Sprache bauen. Und ja – das ist großartig. Es ermöglicht Solo-Gründern und demokratisiert Technologie.

Aber die WASP erinnert brutal daran: Zugänglichkeit ist ein zweischneidiges Schwert. Jedes Mal, wenn wir KI-Systeme leistungsfähiger und einfacher machen, machen wir auch schädliche Aktivitäten zugänglicher. Die Frage ist nicht, ob Technologie gut oder schlecht ist. Es geht um Absicht bei Design und Einsatz.

Als Entwickler und Macher tragen wir Verantwortung, über den Happy Path unserer Tools hinauszudenken. Die KI-Gemeinschaft hat angefangen, sich damit auseinanderzusetzen – durch Initiativen wie das AI Safety Institute und verschiedene Alignment-Programme. Aber über Waffenherstellung redet offenbar niemand am selben Tisch wie über Prompt Engineering oder Deployment-Strategien.

Die WASP mag unbearbeitet sein. Sie mag beim Test mehrfach versagt haben. Aber die Richtung ist klar: Diese Systeme werden besser. Und wenn sie es tun, darf die Diskussion über KI-Ethik nicht länger rein theoretisch bleiben.

Die Tech-Branche redet gerne davon, die Zukunft zu bauen. Manchmal müssen wir härtere Fragen stellen – welche Zukünfte wir eigentlich ermöglichen.

Was denkt ihr über KI in sicherheitsrelevanten Technologien? Braucht es mehr Safeguards, oder greift das "Werkzeuge können gut oder schlecht eingesetzt werden"-Argument? Schreibt's in die Kommentare.