Niewygodna prawda o sztucznej inteligencji i bioterroryzmie: Dlaczego musimy rozmawiać o scenariuszach apokalipsy generowanych przez AI

Bądźmy przez chwilę szczerzy. Branża technologiczna uwielbia abstrakcje. Możemy latami debatować, czy sztuczna inteligencja osiągnie świadomość, czy duże modele językowe „naprawdę” rozumieją rzeczy, albo czy AGI pojawi się do 2027 czy 2035 roku. To fascynujące pytania filozoficzne. Są one jednak, gdy się nad tym zastanowić, wygodnym sposobem na unikanie rozmów o konkretnych, bliskoterminowych zagrożeniach, które już się materializują.

Oto scenariusz, który nie daje mi spać po nocach: Osoba o przeciętnej inteligencji, bez specjalistycznej wiedzy z zakresu biologii, wykorzystuje złamaną (jailbroken) wersję modelu AI do zaprojektowania i syntezy patogenów. Wypuszcza te patogeny w przestrzeni publicznej. W ciągu kilku miesięcy cywilizacja, jaką znamy, zaczyna się rozpadać.

Czy brzmi to dla Ciebie jak science fiction? Nie powinno. I właśnie to czyni ten scenariusz przerażającym.

Problem dostępu już istnieje

Lubimy myśleć, że niebezpieczna biologia wymaga drogich laboratoriów, specjalistycznej wiedzy i lat szkolenia. Ale ta bariera eroduje szybciej, niż większość ludzi zdaje sobie sprawę. Istnieją syntezatory DNA do użytku laboratoryjnego na biurku. Online’owe biolaboratoria syntetyzują materiał genetyczny dla każdego, kto posiada kartę kredytową. Wiedza na temat działania patogenów jest swobodnie dostępna w literaturze akademickiej, która istnieje od dekad.

Teraz nałóżmy na to równanie sztuczną inteligencję. Nawet nie najnowocześniejszą AI – po prostu modele, które istnieją już dziś. Wystarczająco zmotywowana osoba z przyzwoitymi umiejętnościami promptowania może wykorzystać te narzędzia do:

• Projektowania nowych konstrukcji wirusowych o zwiększonej zakaźności
• Identyfikowania luk w systemach obrony biologicznej
• Modelowania struktur białkowych w celu tworzenia celowanych terapii – lub celowanej broni
• Omijania zabezpieczeń etycznych wbudowanych przez odpowiedzialnych deweloperów

Przepaść między „wiedza istnieje” a „wiedza jest użyteczna” szybko się zamyka. A AI jest mostem.

Luka w wyrównaniu (alignment), o której nikt nie mówi

Co frustruje mnie w większości dyskusji na temat bezpieczeństwa AI: skupiają się one na abstrakcyjnych problemach wyrównania (alignment), ignorując praktyczną rzeczywistość, w której wyrównanie i bezpieczeństwo to dwie różne rzeczy. Model może być idealnie wyrównany do „robienia tego, czego chcą użytkownicy”, jednocześnie umożliwiając katastrofalne nadużycia. To nie jest błąd – to cecha wynikająca z sposobu projektowania tych systemów.

Złamane modele nie mają zabezpieczeń bezpieczeństwa. Ale nadal mają możliwości. I oto niewygodna prawda: te możliwości rosną szybciej niż nasza zdolność do wdrażania znaczących zabezpieczeń. Budujemy coraz potężniejsze narzędzia i mamy nadzieję, że trzymanie ich „w więzieniu” wystarczy.

Nie wystarczy. Nie na zawsze. Nie wobec kogoś wystarczająco zmotywowanego.

Co naprawdę nie daje mi spać

Z natury nie jestem pesymistą. Buduję oprogramowanie od dwóch dekad i widziałem, jak technologia rozwiązuje znacznie więcej problemów, niż tworzy. Ale widziałem też, jak szybko sprawy mogą wymknąć się spod kontroli, gdy bodźce są sprzeczne z bezpieczeństwem.

Scenariusz, który opisuję, to nie science fiction. To prawdopodobna oś czasu wydarzeń, biorąc pod uwagę obecne trendy. A najgorsze jest to, że nie ma oczywistego rozwiązania technologicznego. Nie możemy „odwynaleźć” AI. Nie możemy zapomnieć biologii. Wiedza istnieje i będzie stawać się coraz bardziej użyteczna.

Nie oznacza to, że powinniśmy panikować. Oznacza to, że musimy prowadzić niewygodne rozmowy na temat:

• Jak regulować syntezę DNA i dostęp do biolaboratoriów
• Jakie obowiązki ponoszą deweloperzy AI za nadużycia
• Jak