Когда «вibe coding» заходит слишком далеко: скандал с AI-оружием и этика в технологиях

Термин «vibe coding» последнее время мелькает в IT-сообществе как шутливое обозначение процесса создания софта — по сути, разработчик просит AI делать всю тяжёлую работу. Это стало мемом, своего рода значком гордости для основателей, которые запускают MVP без глубокого понимания кода под капотом. Но что происходит, когда этот подход применяют к чему-то гораздо более опасному, чем очередной SaaS или чат-бот?

Коди Уилсон — да, тот самый — недавно представил то, что он называет «первым оружием, сгенерированным ИИ». Устройство под названием WASP — это .22 калибр, напечатанный на 3D-принтере. Его разработали через диалог с языковой моделью под названием GatGPT. Весь процесс, от названия до safety-модификаций, якобы родился из человеко-машинного взаимодействия.

Будем честны: WASP выглядит топорно. Во время тестов оружие дало осечку. Рукоятка имеет «странное, сюрреалистическое качество» — не ложится в руку как следует. Классический результат генерации AI. Но вот что должно не давать спать всей технологической индустрии: оно сработало. Пистолет выстрелил настоящими, смертельными патронами. И серийного номера у него нет.

Проблема доступности

Ещё несколько лет назад для создания работающего 3D-оружия требовались серьёзные технические знания. Нужно было разбираться в баллистике, металлургии, моделировании. Теперь Уилсон утверждает, что новичок с «парой промптов» потенциально может изготовить такое оружие. GatGPT опирается на его массивный репозиторий DEFCAD с цифровыми файлами оружия и способен вести пользователя шаг за шагом.

Это тот самый кошмарный сценарий, о котором предупреждали специалисты по AI-безопасности. Мы много говорили о том, как генеративный ИИ может лишить работы людей или распространять дезинформацию. Но автоматизированное производство вооружений? Это совсем другая история.

Спор: речь или код?

Защитники Уилсона утверждают, что файлы оружия — это просто компьютерный код, цифровая информация, защищённая принципами свободы слова. Этот аргумент фигурирует в судебных разбирательствах уже больше десяти лет, дела раз за разом возвращаются к этому вопросу. Теперь же AI добавляет новый слой: если код является речью, распространяется ли Первая поправка на ИИ, генерирующий такой код? И что это значит для ответственности?

Что это значит для IT-индустрии

Вот где становится некомфортно для всего технологического сообщества. Мы праздновали способность AI снижать порог входа в создание продуктов. Код больше не требует многолетнего CS-образования. Приложения можно строить обычным языком. И да, это по большей части прекрасно — это даёт возможность одиночкам и демократизирует технологии.

Но WASP — жёсткое напоминание о том, что доступность — обоюдоострый меч. Каждый раз, когда мы делаем AI-системы мощнее и проще в использовании, мы также открываем двери для вредоносных применений. Вопрос не в том,good или bad технология по своей природе. Вопрос в осознанности при проектировании и внедрении.

Как разработчики и строители, мы обязаны думать дальше «счастливого сценария» использования наших инструментов. IT-сообщество уже начало это осмыслять — через инициативы вроде AI Safety Institute и различные программы по alignment. Но разговоры о производстве вооружений словно живут в отдельном пузыре от дискуссий о промпт-инжиниринге или стратегиях деплоя.

WASP может быть грубым. Во время демонстрации у него, возможно, были осечки. Но направление движения ясно: эти системы будут совершенствоваться. И когда это произойдёт, разговор об этике AI не может оставаться теоретическим.

Технологическая индустрия обожает рассуждать о построении будущего. Иногда стоит задавать более жёсткие вопросы о том, какие именно будущего мы на самом деле создаём.

Что думаете о роли AI в технологиях двойного назначения? Нужны ли дополнительные ограничения, или это классический аргумент «инструменты можно использовать во благо и во вред»? Обсуждаем.