Adevărul incomod despre inteligența artificială și bioterorism: de ce trebuie să discutăm despre scenarii apocaliptice generate prin programare intuitivă

Să fim sinceri pentru o clipă. Industria tehnologică adoră abstractizările. Putem petrece ani de zile dezbătând dacă inteligența artificială va atinge conștiința, dacă modelele lingvistice de mari dimensiuni „înțeleg” cu adevărat lucrurile sau dacă AGI (inteligența artificială generală) va apărea până în 2027 sau 2035. Acestea sunt întrebări filosofice fascinante. Ele sunt, totodată, dacă ne gândim bine, o modalitate convenabilă de a evita discuțiile despre riscurile concrete, pe termen scurt, care se materializează deja.

Iată un scenariu care mă ține treaz noaptea: O persoană cu inteligență moderată, fără cunoștințe specializate în biologie, utilizează un model de IA „spart” (jailbroken) pentru a proiecta și sintetiza agenți patogeni. Aceasta eliberează acești agenți patogeni într-un spațiu public. În câteva luni, civilizația așa cum o cunoaștem începe să se prăbușească.

Ți se pare absurd? Nu ar trebui. Și tocmai acest aspect îl face înfricoșător.

Problema accesului este deja aici

Ne place să credem că biologia periculoasă necesită laboratoare scumpe, cunoștințe specializate și ani de pregătire. Dar această barieră se erodează mai repede decât își dau seama cei mai mulți. Există sintetizatoare de ADN de masă. Biolaboratoarele online vor sintetiza material genetic pentru oricine deține un card de credit. Cunoștințele despre funcționarea agenților patogeni sunt disponibile gratuit în literatura academică, care există de decenii.

Acum adaugă IA în această ecuație. Nici măcar IA de frontieră – ci doar modelele care există astăzi. Un individ suficient de motivat, cu abilități decente de prompt engineering, poate utiliza aceste unelte pentru a:

• Proiecta construcții virale noi cu transmisibilitate sporită
• Identifica vulnerabilități în sistemele de apărare biologică
• Modela structuri proteice pentru terapii țintite – sau pentru arme țintite
• Ocoli guardrail-urile etice implementate de dezvoltatorii responsabili

Distanța dintre „cunoștința există” și „cunoștința este aplicabilă” se reduce rapid. Iar IA este podul.

Decalajul de aliniere despre care nimeni nu vorbește

Iată ce mă frustrază la majoritatea discuțiilor privind siguranța IA: acestea se concentrează pe probleme abstracte de aliniere, ignorând realitatea practică conform căreia alinierea și siguranța sunt lucruri diferite. Un model poate fi perfect aliniat pentru a „face ceea ce vor utilizatorii”, permițând totuși utilizări catastrofale. Aceasta nu este o eroare – este o caracteristică a modului în care sunt concepute aceste sisteme.

Modelele „sparte” nu au guardrail-uri de siguranță. Dar au încă capacități. Iată adevărul incomod: aceste capacități cresc mai repede decât abilitatea noastră de a implementa măsuri de protecție semnificative. Construim unelte din ce în ce mai puternice și sperăm că menținerea lor „în închisoare” va fi suficientă.

Nu va fi. Nu pentru totdeauna. Nu împotriva cuiva suficient de motivat.

Ce mă ține cu adevărat treaz noaptea

Nu sunt un pesimist din fire. Am dezvoltat software timp de două decenii și am văzut cum tehnologia a rezolvat mult mai multe probleme decât a creat. Dar am văzut și cât de repede pot degenera lucrurile atunci când stimulentele nu sunt aliniate cu siguranța.

Scenariul pe care îl descriu nu este science-fiction. Este o cronologie plauzibilă a evenimentelor, având în vedere traiectoriile actuale. Și cel mai rău aspect? Nu există o soluție tehnologică evidentă. Nu putem „de-inventa” IA. Nu putem uita biologia. Cunoștințele există și vor deveni din ce în ce mai aplicabile.

Acest lucru nu înseamnă că trebuie să intrăm în panică. Înseamnă că trebuie să avem conversații incomode despre:

• Cum reglement