De ongemakkelijke waarheid over AI en bioterrorisme: waarom we moeten praten over door vibe-coding gegenereerde doemscenario’s

Laten we even eerlijk zijn. De tech-industrie houdt van goede abstracties. We kunnen jarenlang discussiëren over of AI bewustzijn zal bereiken, of grote taalmodellen dingen ‘echt’ begrijpen, of AGI tegen 2027 of 2035 zal opkomen. Dit zijn fascinerende filosofische vragen. Ze zijn ook, als je er even over nadenkt, een handige manier om te vermijden dat we praten over de concrete, nabije risico’s die zich al manifesteren.

Hier is een scenario dat me ’s nachts wakker houdt: Een matig intelligente persoon zonder gespecialiseerde biologiekennis gebruikt een gehackte AI-modell om pathogenen te ontwerpen en te synthetiseren. Ze verspreiden deze pathogenen in een openbare ruimte. Binnen enkele maanden begint de beschaving zoals wij die kennen in te storten.

Klinkt dit vergezocht? Dat zou niet moeten. En juist dat maakt het angstaanjagend.

Het toegangsprobleem is er al

We denken graag dat gevaarlijke biologie dure laboratoria, gespecialiseerde kennis en jarenlange training vereist. Maar die barrière erodeert sneller dan de meeste mensen beseffen. Benchtop-DNA-synthesizers bestaan. Online biolabs synthetiseren genetisch materiaal voor iedereen met een creditcard. Kennis over hoe pathogenen werken is al decennialang vrij beschikbaar in academische literatuur.

Voeg daar nu AI aan toe. Niet eens frontier-AI—alleen modellen die er vandaag al zijn. Een voldoende gemotiveerd individu met goede promptvaardigheden kan deze tools gebruiken om:

• Nieuwe virale constructen met verhoogde overdraagbaarheid te ontwerpen
• Kwetsbaarheden in biologische verdedigingssystemen te identificeren
• Eiwitstructuren te modelleren voor gerichte therapieën—or gerichte wapens
• Ethische waarborgen te omzeilen die verantwoordelijke ontwikkelaars hebben ingebouwd

De kloof tussen ‘kennis bestaat’ en ‘kennis is bruikbaar’ sluit snel. En AI is de brug.

De alignment-kloof waar niemand over praat

Wat me frustreert aan de meeste AI-veiligheidsdiscussies is dat ze zich richten op abstracte alignment-problemen, terwijl de praktische realiteit wordt genegeerd: alignment en veiligheid zijn verschillende dingen. Een model kan perfect aligned zijn om ‘te doen wat gebruikers willen’, terwijl het toch catastrofale misbruik mogelijk maakt. Dat is geen bug—het is een kenmerk van hoe deze systemen zijn ontworpen.

Gehackte modellen hebben geen veiligheidsbarrières. Maar ze hebben wel capaciteiten. En hier is de ongemakkelijke waarheid: die capaciteiten groeien sneller dan ons vermogen om zinvolle waarborgen te implementeren. We bouwen steeds krachtigere tools en hopen dat ze ‘in de cel’ houden genoeg zal zijn.

Dat zal niet zo zijn. Niet voor altijd. Niet tegen iemand die voldoende gemotiveerd is.

Wat me echt wakker houdt

Ik ben van nature geen doomer. Ik bouw al twintig jaar software en heb gezien hoe technologie veel meer problemen oplost dan het creëert. Maar ik heb ook gezien hoe snel dingen uit de hand kunnen lopen wanneer prikkels niet aansluiten bij veiligheid.

Het scenario dat ik beschrijf is geen sciencefiction. Het is een plausibele tijdlijn van gebeurtenissen, gezien de huidige trends. En het ergste? Er is geen voor de hand liggende technologische oplossing. We kunnen AI niet ‘uitvinden’. We kunnen de biologie niet ‘verleren’. De kennis bestaat en zal steeds bruikbaarder worden.

Dit betekent niet dat we in paniek moeten raken. Het betekent dat we ongemakkelijke gesprekken moeten voeren over:

• Hoe we DNA-synthese en toegang tot biolabs reguleren
• Welke verantwoordelijkheden AI-ontwikkelaars hebben voor misbruik
• Hoe we zinvolle waarborgen bouwen zonder nuttig onderzoek te verstikken
• Of de huidige aanpak van AI-ontwikkeling voldoende rekening houdt met dual-use-risico’s

De ontwikkelaarsgemeenschap—mensen die deze systemen bouwen, implementeren en de infrastructuur creëren waarop ze draaien—moet deel uitmaken van dit gesprek. We bouwen niet langer alleen software. We bouwen capaciteiten met beschavingsimpact.

Dat is het overwegen waard, zelfs als het ongemakkelijk is.

De weg vooruit

Ik stel niet voor om AI-ontwikkeling stil te leggen. De voordelen zijn te groot en