Неудобната истина за изкуствения интелект и биотероризма: Защо трябва да обсъждаме апокалиптични сценарии, създадени чрез „вайб-кодиране“

Нека бъдем честни за момент. Технологичната индустрия обожава добрите абстракции. Можем да прекараме години в дебати дали изкуственият интелект ще постигне съзнание, дали големите езикови модели „наистина“ разбират нещата или дали общият изкуствен интелект (AGI) ще се появи до 2027 или 2035 г. Това са завладяващи философски въпроси. Но ако помислите за тях, те са и удобен начин да избегнем разговора за конкретните, краткосрочни рискове, които вече се материализират.

Ето един сценарий, който не ми дава сън: Умерено интелигентен човек без специализирани познания по биология използва „разблокиран“ AI модел, за да проектира и синтезира патогени. Той ги разпространява на обществено място. В рамките на няколко месеца цивилизацията, каквато я познаваме, започва да се разпада.

Звучи ли ви това като фантастика? Не трябва. И точно това го прави ужасяващо.

Проблемът с достъпа вече е тук

Обичаме да мислим, че опасната биология изисква скъпи лаборатории, специализирани познания и години обучение. Но тази бариера се разпада по-бързо, отколкото повечето хора осъзнават. Съществуват настолни синтезатори на ДНК. Онлайн биологичните лаборатории ще синтезират генетичен материал за всеки, който има кредитна карта. Знанията за начина, по който работят патогените, са свободно достъпни в академичната литература, която съществува от десетилетия.

Сега добавете изкуствения интелект в това уравнение. Не дори водещият AI – просто моделите, които съществуват днес. Достатъчно мотивиран индивид с прилични умения за формулиране на промпти може да използва тези инструменти, за да:

• Проектира нови вирусни конструкции с повишена предаваемост
• Идентифицира уязвимости в биологичните защитни системи
• Моделира протеинови структури за целеви терапии – или целеви оръжия
• Заобикаля етичните предпазни мерки, изградени от отговорните разработчици

Пропастьта между „знанието съществува“ и „знанието е приложимо“ се затваря бързо. А изкуственият интелект е мостът.

Разривът в подравняването, за който никой не говори

Това, което ме разочарова в повечето дискусии за безопасността на AI, е, че те се фокусират върху абстрактни проблеми с подравняването (alignment), игнорирайки практическата реалност, че подравняването и безопасността са различни неща. Моделът може да бъде перфектно подравнен да „прави каквото искат потребителите“, като същевременно позволява катастрофална злоупотреба. Това не е бъг – това е характеристика на начина, по който тези системи са проектирани.

Разблокираните модели нямат предпазни мерки за безопасност. Но те все пак имат възможности. И ето неприятната истина: тези възможности нарастват по-бързо от способността ни да внедряваме смислени предпазни мерки. Строим все по-мощни инструменти и се надяваме, че държането им „в затвор“ ще е достатъчно.

Няма да е. Не завинаги. Не срещу някой достатъчно мотивиран.

Какво наистина не ми дава сън

По природа не съм песимист. Изградих софтуер в продължение на две десетилетия и съм виждал как технологиите решават много повече проблеми, отколкото създават. Но съм виждал и колко бързо нещата могат да излязат извън контрол, когато стимулите не съвпадат с безопасността.

Сценарият, който описвам, не е научна фантастика. Това е правдо