Когато "Vibe Coding" стигне твърде далеч: Скандалът с AI оръжието и какво означава това за технологичната етика

В технологичните среди напоследък се говори много за "vibe coding" — непринудения начин да си създадеш софтуер, като оставиш AI-то да свърши основната работа. Стана нещо като меме, дори повод за гордост сред основатели, които пусскат продукти без да разбират особено какво се случва под капака. Но какво става, когато този подход се пренесе върху нещо далеч по-опасно от обикновено SaaS приложение?

Cody Wilson и неговият "AI пистолет"

Cody Wilson наскоро представи това, което нарича "първото AI-генерирано оръжие" — WASP. Това е 3D-принтиран .22 калибрен пистолет, проектиран чрез диалог с естествен език с помощта на персонализиран модел на име GatGPT. Целият процес на разработка — от кръщаването до безопасните модификации — според него е резултат от човешко-AI сътрудничество.

Нека бъдем ясни: WASP е доста груба работа. При тестването засече още при първия опит. Дръжката има "странно, сюрреалистично качество", което не пасва на човешка ръка — типични AI-странности. Но ето какво трябва да ни безпокои: оръжието работи. Стреля с истински куршуми. И няма сериен номер.

Проблемът с достъпността

До скоро за създаването на функционално 3D-принтирано оръжие бяха нужни сериозни технически познания. Разбиране по балистика, металургия, CAD дизайн. Сега Wilson твърди, че начинаещ с "няколко подканвания" потенциално може да произведе оръжие. GatGPT черпи от DEFCAD — неговата огромна база данни с цифрови файлове за оръжия — и може да води потребители стъпка по стъпка.

Това е кошмарният сценарий, за който адвокатите на AI безопасността предупреждаваха. Прекарахме доста енергия в разговори как generative AI може да автоматизира работни места или да разпространява дезинформация. Но автоматизирано производство на оръжия? Това е съвсем различна категория.

Спорът "Реч vs. Код"

Защитниците на Wilson аргументират, че файловете за оръжия са просто компютърен код — цифрова информация, защитена от принципите на свободна реч. Този аргумент се разглежда в съда от повече от десетилетие, като делата непрекъснато обикалят около този въпрос. Сега AI добавя ново измерение: ако кодът е реч, има ли AI, който генерира такъв код, права по Първата поправка? И ако да — какво означава това за отговорността?

Какво означава това за AI индустрията

Тук става неудобно за по-широката технологична общност. Празнуваме способността на AI да сваля бариерите пред създаването. Код вече не изисква години обучение по компютърни науки. Приложения се правят с естествен език. И да, това е до голяма степен прекрасно — дава сила на самостоятелни основатели и демократизира технологиите.

Но WASP е рязко напомняне, че достъпността е двуизмерна. Всеки път, когато правим AI системите по-способни и лесни за използване, едновременно с това правим и вредните дейности по-достъпни. Въпросът не е дали технологията е по природа добра или лоша; става дума за умисъл при дизайна и внедряването.

Като разработчици и създатели носим отговорност да мислим отвъд "щастливия път" на нашите инструменти. AI общността вече започна да се бори с това чрез инициативи като AI Safety Institute и различни програми за alignment изследвания. Но разговорите за производство на оръжия сякаш живеят в отделна ниша от дискусиите за prompt engineering или deployment стратегии.

WASP може да е груб. Може да е засякъл два пъти по време на демонстрацията. Но посоката е ясна: тези системи ще се подобряват. И когато го направят, разговорът за AI етика не може да остане теоретичен.

Технологичната индустрия обича да говори за изграждане на бъдещето. Понякога трябва да задаваме по-трудни въпроси за това какви бъдеща всъщност активираме.

Какво е твоето мнение за ролята на AI в технологиите с двойна употреба? Трябва ли да има повече защитни механизми, или това се вписва в аргумента "инструментите могат да се използват за добро или зло"? Нека обсъдим.