Když „vibe coding" překročí hranice: Kontroverze kolem AI zbraně a co to znamená pro technologickou etiku

Termín „vibe coding" se v technologických kruzích stal symbolem ležérního přístupu k tvorbě softwaru. Jde v podstatě o to, že necháte AI dělat těžkou práci za vás. Stalo se to memem, znakem odvahy pro zakladatele, kteří rychle vydávají produkty, aniž by dokonale rozuměli kódu pod povrchem. Co se ale stane, když se tato filozofie aplikuje na něco mnohem nebezpečnějšího než SaaS aplikace nebo chatbot?

Cody Wilson – ano, ten Cody Wilson – nedávno představil to, co nazývá „první AI generovanou zbraň." Nese název WASP a jedná se o 3D tištěnou pistoli ráže .22. Byla navržena prostřednictvím dialogu v přirozeném jazyce s vlastním modelem zvaným GatGPT. Celý vývojový proces, od pojmenování zbraně až po bezpečnostní úpravy, údajně vznikl díky spolupráci člověka a AI.

Musíme být fér: WASP je dost primitivní. Při testování selhal na první pokus. Rukojeť má „bizarní, surrealistickou kvalitu", která nesedí lidské ruce – klasické anomálie generované AI. Ale tady je to, co by mělo všechny v technologickém průmyslu probouzet ze spaní: zbraň fungovala. WASP vystřelil skutečné smrtící náboje. A nemá sériové číslo.

Problém přístupnosti

Rok co rok bylo vytvoření funkční 3D tištěné zbraně záležitostí odborných znalostí. Potřebovali jste rozumět balistice, metalurgii a CAD designu. Teď Wilson tvrdí, že začátečník s „několika příkazy" by potenciálně mohl takovou zbraň vyrobit. GatGPT čerpá z DEFCAD, jeho rozsáhlého repozitáře digitálních souborů zbraní, a dokáže uživatele vést celým procesem krok za krokem.

Toto je noční můra, před kterou varovali propagátoři bezpečnosti AI. Věnovali jsme spoustu energie diskuzím o tom, jak generativní AI může automatizovat práci nebo šířit dezinformace. Ale automatizovaná výroba zbraní? To je úplně jiná liga.

Debata řeč versus kód

Obránci Wilsona argumentují, že soubory zbraní jsou jen počítačový kód – digitální informace chráněné principy svobody projevu. Tato argumentace se soudně řeší už více než desetiletí, případy se neustále točí kolem této otázky. Teď AI přidává nový rozměr: pokud je kód řeč, má AI, která takový kód generuje, právo na první dodatek? A pokud ano, co to znamená pro odpovědnost?

Co to znamená pro AI průmysl

Tady se to začíná být nepříjemné pro širší technologickou komunitu. Slavíme schopnost AI snižovat bariéry tvorby. Kód už nevyžaduje roky studia informatiky. Aplikace se dají budovat pomocí přirozeného jazyka. A ano, to je z velké části úžasné – dává to moc do rukou jednotlivcům a demokratizuje technologie.

Ale WASP je ostrou připomínkou, že přístupnost má dvě strany. Pokaždé, když děláme AI systémy schopnějšími a snadněji použitelnými, současně usnadňujeme i škodlivé aktivity. Otázka není, zda je technologie inherentně dobrá nebo špatná; jde o záměrnost v návrhu a nasazení.

Jako vývojáře a tvůrce máme odpovědnost přemýšlet nad rámec ideálního scénáře našich nástrojů. AI komunita s tím začíná bojovat prostřednictvím iniciativ jako AI Safety Institute a různých výzkumných programů zaměřených na alignování AI. Ale konverzace o výrobě zbraní se zdají žít v odděleném silo od diskuzí o prompt engineeringu nebo strategiích nasazení.

WASP možná působí primitivně. Možná během demonstrace selhal dvakrát. Ale trajektorie je jasná: tyto systémy se budou zlepšovat. A až k tomu dojde, konverzace o AI etice nemůže zůstat teoretická.

Technologický průmysl miluje řeči o stavění budoucnosti. Někdy ale potřebujeme klást těžší otázky o tom, jaké budoucnosti vlastně umožňujeme.

Co si myslíte o roli AI v technologiích dvojího užití? Mělo by existovat více pojistek, nebo platí argument „nástroje se dají použít k dobrému i zlému"? Pojďme to probrat.