Die unbequeme Wahrheit über KI und Bioterrorismus: Warum wir über durch KI generierte Apokalypse-Szenarien sprechen müssen

Seien wir für einen Moment ehrlich. Die Tech-Branche liebt gute Abstraktionen. Wir können Jahre damit verbringen, zu debattieren, ob KI Bewusstsein erlangen wird, ob große Sprachmodelle Dinge „wirklich“ verstehen oder ob AGI bis 2027 oder 2035 entstehen wird. Das sind faszinierende philosophische Fragen. Sie sind aber auch, wenn man genauer hinsieht, eine bequeme Möglichkeit, nicht über die konkreten, kurzfristigen Risiken sprechen zu müssen, die sich bereits abzeichnen.

Hier ist ein Szenario, das mich nachts wachhält: Eine durchschnittlich intelligente Person ohne spezielles Biologiewissen nutzt ein „jailbroken“ KI-Modell, um Krankheitserreger zu entwerfen und zu synthetisieren. Sie setzt diese Erreger an einem öffentlichen Ort frei. Innerhalb weniger Monate beginnt die Zivilisation, wie wir sie kennen, zusammenzubrechen.

Klingt das für Sie weit hergeholt? Sollte es nicht. Und genau das macht es so beängstigend.

Das Zugangsproblem ist bereits hier

Wir glauben gerne, dass gefährliche Biologie teure Labore, spezialisiertes Wissen und jahrelange Ausbildung erfordert. Aber diese Hürde erodiert schneller, als die meisten Menschen erkennen. Tisch-DNA-Synthesizer existieren. Online-Biolabore synthetisieren genetisches Material für jeden, der eine Kreditkarte besitzt. Das Wissen darüber, wie Krankheitserreger funktionieren, ist in akademischer Literatur frei verfügbar, die es seit Jahrzehnten gibt.

Fügen Sie nun KI in diese Gleichung ein. Nicht einmal Spitzen-KI – nur Modelle, die es heute bereits gibt. Eine hinreichend motivierte Person mit guten Prompting-Fähigkeiten kann diese Tools nutzen, um:

• Neue virale Konstrukte mit erhöhter Übertragbarkeit zu entwerfen
• Schwachstellen in biologischen Abwehrsystemen zu identifizieren
• Proteinstrukturen für gezielte Therapeutika – oder gezielte Waffen – zu modellieren
• Ethische Schutzmechanismen zu umgehen, die verantwortungsvolle Entwickler eingebaut haben

Die Lücke zwischen „Wissen existiert“ und „Wissen ist handhabbar“ schließt sich rasch. Und KI ist die Brücke.

Die Alignment-Lücke, über die niemand spricht

Was mich an den meisten Diskussionen zur KI-Sicherheit frustriert: Sie konzentrieren sich auf abstrakte Alignment-Probleme und ignorieren die praktische Realität, dass Alignment und Sicherheit unterschiedliche Dinge sind. Ein Modell kann perfekt darauf ausgerichtet sein, „das zu tun, was Nutzer wollen“, und dennoch katastrophalen Missbrauch ermöglichen. Das ist kein Fehler – es ist eine Eigenschaft der Art, wie diese Systeme konzipiert sind.

„Jailbroken“ Modelle haben keine Sicherheitsbarrieren. Aber sie haben weiterhin Fähigkeiten. Und hier ist die unbequeme Wahrheit: Diese Fähigkeiten nehmen schneller zu als unsere Fähigkeit, sinnvolle Schutzmaßnahmen umzusetzen. Wir bauen immer mächtigere Tools und hoffen, dass es ausreicht, sie „im Gefängnis“ zu halten.

Das wird nicht reichen. Nicht für immer. Nicht gegen jemanden, der hinreichend motiviert ist.

Was mich nachts wirklich wachhält

Ich bin von Natur aus kein Pessimist. Ich habe zwei Jahrzehnte lang Software entwickelt und gesehen, dass Technologie weitaus mehr Probleme löst, als sie schafft. Aber ich habe auch gesehen, wie schnell Dinge außer Kontrolle geraten können, wenn Anreize nicht mit Sicherheit übereinstimmen.

Das von mir beschriebene Szenario ist keine Science-Fiction. Es ist eine plausible Zeitleiste von Ereignissen, basierend auf aktuellen Entwicklungen. Und das Schlimmste daran? Es gibt keine offensichtliche technologische Lösung. Wir können KI nicht wieder „erfinden“ (im Sinne von rückgängig machen). Wir können die Biologie nicht wieder verlernen. Das Wissen existiert, und es wird zunehmend handhabbar.

Das bedeutet nicht, dass wir in Panik geraten sollten. Es bedeutet, dass wir unbequeme Gespräche führen müssen über:

• Wie wir die DNA-Synthese und den Zugang zu Biolaboren regulieren
• Welche Verantwortung KI-Entwickler für Missbrauch tragen
• Wie wir sinnvolle Schutzmaßnahmen aufbauen, ohne nützliche Forschung zu behindern
• Ob der aktuelle Ansatz zur KI-Entwicklung Dual-Use-Risiken angemessen berücksichtigt

Die Entwickler-Community – die Menschen, die diese Systeme bauen, bereitstellen und die Infrastruktur schaffen, auf der sie laufen – muss Teil dieses Gesprächs sein. Wir bauen nicht mehr nur Software. Wir bauen Fähigkeiten mit zivilisatorischen Implikationen.

Das ist es wert, darüber nachzudenken, auch wenn