La scomoda verità sull'intelligenza artificiale e il bioterrorismo: perché dobbiamo parlare di scenari apocalittici generati con la programmazione basata sul "vibe coding"

Siiamo onesti per un momento. L’industria tecnologica adora le buone astrazioni. Possiamo passare anni a discutere se l’intelligenza artificiale raggiungerà la coscienza, se i grandi modelli linguistici “comprendano” davvero le cose, o se l’AGI emergerà entro il 2027 o il 2035. Sono domande filosofiche affascinanti. Sono anche, a ben pensarci, un modo comodo per evitare di parlare dei rischi concreti e a breve termine che si stanno già materializzando.

Ecco uno scenario che mi tiene sveglio di notte: una persona di intelligenza media, senza conoscenze biologiche specializzate, utilizza un modello di IA “jailbroken” per progettare e sintetizzare agenti patogeni. Li rilascia in uno spazio pubblico. Nel giro di mesi, la civiltà come la conosciamo inizia a crollare.

Vi sembra improbabile? Non dovrebbe. Ed è proprio questo che lo rende terrificante.

Il problema dell’accesso è già qui

Ci piace pensare che la biologia pericolosa richieda laboratori costosi, conoscenze specializzate e anni di formazione. Ma quella barriera si sta erodendo più velocemente di quanto la maggior parte delle persone realizzi. Esistono sintetizzatori di DNA da banco. I biolaboratori online sintetizzano materiale genetico per chiunque abbia una carta di credito. La conoscenza sul funzionamento degli agenti patogeni è liberamente disponibile in letteratura accademica che esiste da decenni.

Ora aggiungete l’IA a questa equazione. Non nemmeno l’IA di frontiera, ma solo i modelli che esistono oggi. Un individuo sufficientemente motivato, con buone capacità di prompting, può utilizzare questi strumenti per:

• Progettare costrutti virali novel con trasmissibilità potenziata
• Identificare vulnerabilità nei sistemi di difesa biologica
• Modellare strutture proteiche per terapie mirate, o per armi mirate
• Aggirare le barriere etiche che gli sviluppatori responsabili hanno integrato

Il divario tra “la conoscenza esiste” e “la conoscenza è azionabile” si sta colmando rapidamente. E l’IA è il ponte.

Il gap di allineamento di cui nessuno parla

Ecco ciò che mi frustra nella maggior parte delle discussioni sulla sicurezza dell’IA: si concentrano su problemi di allineamento astratti, ignorando la realtà pratica secondo cui allineamento e sicurezza sono cose diverse. Un modello può essere perfettamente allineato a “fare ciò che gli utenti vogliono” pur consentendo un uso improprio catastrofico. Non è un bug: è una caratteristica di come questi sistemi sono progettati.

I modelli jailbroken non hanno barriere di sicurezza. Ma mantengono le loro capacità. Ed ecco la verità scomoda: quelle capacità stanno aumentando più velocemente della nostra capacità di implementare salvaguardie significative. Stiamo costruendo strumenti sempre più potenti, sperando che tenerli “in prigione” sia sufficiente.

Non lo sarà. Non per sempre. Non contro qualcuno sufficientemente motivato.

Ciò che davvero mi tiene sveglio di notte

Non sono un catastrofista per natura. Ho sviluppato software per due decenni e ho visto la tecnologia risolvere molti più problemi di quanti ne crei. Ma ho anche visto quanto rapidamente le cose possano sfuggire di mano quando gli incentivi non sono allineati con la sicurezza.

Lo scenario che descrivo non è fantascienza. È una cronologia plausibile di eventi, date le attuali traiettorie. E la parte peggiore? Non esiste una soluzione tecnologica ovvia. Non possiamo “disinventare” l’IA. Non possiamo “disimparare” la biologia. La conoscenza esiste e diventerà sempre più azionabile.

Questo non significa che dobbiamo andare nel panico. Significa che dobbiamo avere conversazioni scomode su:

• Come regolamentare la sintesi del DNA e l’accesso ai biolaboratori
• Quali responsabilità hanno gli sviluppatori di IA per gli usi impropri
• Come costruire salvaguardie significative senza soffocare la ricerca benefica
• Se l’attuale approccio allo sviluppo dell’IA tenga adeguatamente conto dei rischi dual-use

La comunità degli sviluppatori—le persone che costruiscono questi sistemi, li distribuiscono e creano l’infrastruttura su cui girano—deve far parte di questa conversazione. Non stiamo più costruendo solo software. Stiamo costruendo capacità con implicazioni civilizzative.

Vale la pena rifletterci, anche se è scomodo.

La strada da percorrere

Non sto suggerendo di fermare lo sviluppo dell’IA. I benefici sono troppo significativi e le dinamiche competitive rendono impraticabile una restrizione unilaterale. Ma sto suggerendo che svilupp