La incómoda verdad sobre la IA y el bioterrorismo: por qué debemos hablar de escenarios apocalípticos programados por intuición
Seamos honestos por un momento. La industria tecnológica adora las buenas abstracciones. Podemos pasar años debatiendo si la IA alcanzará la conciencia, si los grandes modelos de lenguaje «comprenden» realmente las cosas o si la AGI surgirá en 2027 o en 2035. Son preguntas filosóficas fascinantes. También son, si lo pensamos bien, una forma conveniente de evitar hablar de los riesgos concretos y a corto plazo que ya se están materializando.
He aquí un escenario que no me deja dormir: una persona de inteligencia moderada, sin conocimientos especializados en biología, utiliza un modelo de IA «jailbreakado» (sin restricciones) para diseñar y sintetizar patógenos. Libera estos patógenos en un espacio público. En cuestión de meses, la civilización tal como la conocemos comienza a colapsar.
¿Te parece descabellado? No debería. Y eso es precisamente lo que lo hace aterrador.
El problema del acceso ya está aquí
Nos gusta pensar que la biología peligrosa requiere laboratorios costosos, conocimientos especializados y años de formación. Pero esa barrera se está erosionando más rápido de lo que la mayoría de la gente se da cuenta. Existen sintetizadores de ADN de sobremesa. Los biolaboratorios en línea sintetizan material genético para cualquiera que tenga una tarjeta de crédito. El conocimiento sobre cómo funcionan los patógenos está disponible gratuitamente en la literatura académica que existe desde hace décadas.
Ahora añade la IA a esta ecuación. Ni siquiera se trata de IA de vanguardia, sino de modelos que existen hoy. Un individuo suficientemente motivado con habilidades decentes de «prompting» puede utilizar estas herramientas para:
- Diseñar construcciones virales novedosas con mayor transmisibilidad
- Identificar vulnerabilidades en los sistemas de defensa biológica
- Modelar estructuras de proteínas para terapéuticas dirigidas o, peor aún, para armas dirigidas
- Eludir las barreras éticas que los desarrolladores responsables han implementado
La brecha entre «el conocimiento existe» y «el conocimiento es accionable» se está cerrando rápidamente. Y la IA es el puente.
La brecha de alineación de la que nadie habla
Lo que me frustra de la mayoría de las discusiones sobre la seguridad de la IA es que se centran en problemas abstractos de alineación mientras ignoran la realidad práctica de que la alineación y la seguridad son cosas distintas. Un modelo puede estar perfectamente alineado para «hacer lo que quieren los usuarios» y, aun así, habilitar un uso indebido catastrófico. Eso no es un error; es una característica del diseño de estos sistemas.
Los modelos «jailbreakados» no tienen barreras de seguridad. Pero siguen teniendo capacidades. Y aquí está la incómoda verdad: esas capacidades están aumentando más rápido que nuestra capacidad para implementar salvaguardas significativas. Estamos construyendo herramientas cada vez más poderosas y esperando que mantenerlas «en la cárcel» sea suficiente.
No lo será. No para siempre. No contra alguien suficientemente motivado.
Lo que realmente no me deja dormir
No soy un apocalíptico por naturaleza. He desarrollado software durante dos décadas y he visto cómo la tecnología resuelve muchos más problemas de los que crea. Pero también he visto lo rápido que las cosas pueden descontrolarse cuando los incentivos no están alineados con la seguridad.
El escenario que describo no es ciencia ficción. Es una cronología plausible de eventos, dadas las trayectorias actuales. Y lo peor es que no hay una solución tecnológica obvia. No podemos «desinventar» la IA. No podemos «desaprender» la biología. El conocimiento existe y se volverá cada vez más accionable.
Esto no significa que debamos entrar en pánico. Significa que necesitamos tener conversaciones incómodas sobre:
- Cómo regular la síntesis de ADN y el acceso a los biolaboratorios
- Qué responsabilidades tienen los desarrolladores de IA por los usos indebidos
- Cómo construir salvaguardas significativas sin sofocar la investigación beneficiosa
- Si el enfoque actual del desarrollo de la IA tiene en cuenta adecuadamente los riesgos de doble uso
La comunidad de desarrolladores —las personas que construyen estos sistemas, los despliegan y crean la infraestructura sobre la que funcionan— debe formar parte de esta conversación. Ya no estamos simplemente construyendo software. Estamos construyendo capacidades con implicaciones civilizatorias.
Eso vale la pena considerarlo, aunque resulte incómodo.
El camino a seguir
No sugiero detener el desarrollo de la IA. Los beneficios son demasiado significativos y las dinámicas competitivas hacen que la restricción unilateral