La vérité inconfortable sur l’IA et le bioterrorisme : pourquoi nous devons parler des scénarios apocalyptiques codés à l’instinct

Soyons honnêtes un instant. L’industrie technologique adore les abstractions. Nous pouvons passer des années à débattre pour savoir si l’IA atteindra la conscience, si les grands modèles de langage « comprennent » réellement les choses, ou si l’IA générale (AGI) émergera d’ici 2027 ou 2035. Ce sont des questions philosophiques fascinantes. Mais, quand on y réfléchit, ce sont aussi un moyen commode d’éviter de parler des risques concrets et à court terme qui se matérialisent déjà.

Voici un scénario qui m’empêche de dormir : une personne d’intelligence moyenne, sans connaissances spécialisées en biologie, utilise un modèle d’IA « jailbreaké » (débarrassé de ses garde-fous) pour concevoir et synthétiser des agents pathogènes. Elle libère ces agents dans un espace public. En quelques mois, la civilisation telle que nous la connaissons commence à s’effondrer.

Cela vous semble tiré par les cheveux ? Cela ne devrait pas. Et c’est précisément ce qui rend la situation terrifiante.

Le problème de l’accès est déjà là

Nous aimons penser que la biologie dangereuse nécessite des laboratoires coûteux, des connaissances spécialisées et des années de formation. Mais cette barrière s’érode plus vite que la plupart des gens ne le réalisent. Des synthétiseurs d’ADN de paillasse existent. Des biolaboratoires en ligne synthétisent du matériel génétique pour quiconque possède une carte de crédit. La connaissance du fonctionnement des agents pathogènes est librement disponible dans la littérature académique depuis des décennies.

Ajoutez maintenant l’IA à cette équation. Pas même une IA de pointe, mais simplement les modèles qui existent aujourd’hui. Un individu suffisamment motivé, doté de compétences correctes en ingénierie de prompts, peut utiliser ces outils pour :

• Concevoir de nouvelles constructions virales à transmissibilité accrue
• Identifier les vulnérabilités des systèmes de défense biologique
• Modéliser des structures protéiques pour des thérapies ciblées – ou des armes ciblées
• Contourner les garde-fous éthiques intégrés par les développeurs responsables

L’écart entre « la connaissance existe » et « la connaissance est actionnable » se réduit rapidement. Et l’IA est le pont.

Le fossé d’alignement dont personne ne parle

Voici ce qui me frustre dans la plupart des discussions sur la sécurité de l’IA : elles se concentrent sur des problèmes d’alignement abstraits tout en ignorant la réalité pratique selon laquelle l’alignement et la sécurité sont deux choses distinctes. Un modèle peut être parfaitement aligné pour « faire ce que les utilisateurs veulent » tout en permettant une utilisation catastrophique. Ce n’est pas un bug – c’est une caractéristique de la conception de ces systèmes.

Les modèles « jailbreakés » n’ont pas de garde-fous de sécurité. Mais ils conservent leurs capacités. Et voici la vérité inconfortable : ces capacités augmentent plus vite que notre capacité à mettre en place des mesures de protection significatives. Nous construisons des outils de plus en plus puissants en espérant que les maintenir « en prison » suffira.

Ce ne sera pas le cas. Pas éternellement. Pas face à quelqu’un de suffisamment motivé.

Ce qui m’empêche vraiment de dormir

Je ne suis pas un pessimiste par nature. J’ai développé des logiciels pendant deux décennies et j’ai vu la technologie résoudre bien plus de problèmes qu’elle n’en crée. Mais j’ai aussi vu à quelle vitesse les choses peuvent dégénérer lorsque les incitations ne sont pas alignées avec la sécurité.

Le scénario que je décris n’est pas de la science-fiction. C’est une chronologie plausible des événements, compte tenu des trajectoires actuelles. Et le pire ? Il n’existe pas de solution technologique évidente. Nous ne pouvons pas « désinventer » l’IA. Nous ne pouvons pas « désapprendre » la biologie. La connaissance existe, et elle deviendra de plus en plus actionnable.

Cela ne signifie pas que nous devons paniquer. Cela signifie que nous devons avoir des conversations inconfortables sur :

• La manière dont nous réglementons la synthèse d’ADN et l’accès aux biolaboratoires
• Les responsabilités des développeurs d’IA en cas d’utilisation abusive
• La façon de construire des mesures de protection significatives sans étouffer la recherche bénéfique
• La question de savoir si l’approche actuelle du développement de l’IA tient compte de manière adéquate des risques à double usage

La communauté des