Den ubehagelige sandhed om kunstig intelligens og bioterrorisme: Hvorfor vi må tale om vibe-kodede dommedagsscenarier

Lad os være ærlige et øjeblik. Tech-industrien elsker en god abstraktion. Vi kan bruge år på at diskutere, om AI vil opnå bevidsthed, om store sprogmodeller “virkelig” forstår ting, eller om AGI vil opstå i 2027 eller 2035. Det er fascinerende filosofiske spørgsmål. Det er også, når man tænker over det, en bekvem måde at undgå at tale om de konkrete, kortsigtede risici, der allerede er ved at materialisere sig.

Her er et scenarie, der holder mig vågen om natten: En moderat intelligent person uden specialiseret biologisk viden bruger en jailbreaket AI-model til at designe og syntetisere patogener. De frigiver disse patogener på et offentligt sted. Inden for måneder begynder civilisationen, som vi kender den, at kollapse.

Lyder det usandsynligt for dig? Det burde det ikke. Og det er netop det, der gør det skræmmende.

Adgangsproblemet er allerede her

Vi kan godt lide at tro, at farlig biologi kræver dyre laboratorier, specialiseret viden og mange års træning. Men denne barriere eroderer hurtigere, end de fleste er klar over. Der findes DNA-syntesatorer til laboratoriebænke. Online biolaboratorier vil syntetisere genetisk materiale for alle, der har et kreditkort. Viden om, hvordan patogener fungerer, er frit tilgængelig i akademisk litteratur, der har eksisteret i årtier.

Læg nu AI oven i denne ligning. Ikke engang frontier-AI – blot modeller, der eksisterer i dag. En tilstrækkeligt motiveret person med decent prompt-færdigheder kan bruge disse værktøjer til at:

• Designe nye virale konstruktioner med øget smitteevne
• Identificere sårbarheder i biologiske forsvarssystemer
• Modellere proteinstrukturer til målrettede terapier – eller målrettede våben
• Omgå etiske sikkerhedsforanstaltninger, som ansvarlige udviklere har indbygget

Kløften mellem “viden eksisterer” og “viden er handlingsbar” lukkes hurtigt. Og AI er broen.

Det alignment-gap, ingen taler om

Det, der frustrerer mig ved de fleste diskussioner om AI-sikkerhed, er, at de fokuserer på abstrakte alignment-problemer, mens de ignorerer den praktiske virkelighed, at alignment og sikkerhed er to forskellige ting. En model kan være perfekt aligned til at “gøre, hvad brugerne ønsker”, og stadig muliggøre katastrofal misbrug. Det er ikke en fejl – det er en egenskab ved, hvordan disse systemer er designet.

Jailbreakede modeller har ingen sikkerhedsbarrierer. Men de har stadig kapaciteter. Og her er den ubehagelige sandhed: disse kapaciteter vokser hurtigere end vores evne til at implementere meningsfulde sikkerhedsforanstaltninger. Vi bygger stadig mere kraftfulde værktøjer og håber på, at det at holde dem “i fængsel” vil være nok.

Det vil det ikke. Ikke for evigt. Ikke over for nogen, der er tilstrækkeligt motiveret.

Det, der virkelig holder mig vågen om natten

Jeg er ikke en doomer af natur. Jeg har bygget software i to årtier, og jeg har set teknologi løse langt flere problemer, end den skaber. Men jeg har også set, hvor hurtigt tingene kan eskalere, når incitamenter ikke stemmer overens med sikkerheden.

Det scenarie, jeg beskriver, er ikke science fiction. Det er en plausibel tidslinje af begivenheder, givet de nuværende tendenser. Og det værste? Der er ingen åbenlys teknologisk løsning. Vi kan ikke “afopfinde” AI. Vi kan ikke glemme biologien. Videnen eksisterer, og den vil blive stadig mere handlingsbar.

Det betyder ikke, at vi skal gå i panik. Det betyder, at vi skal have ubehagelige samtaler om:

• Hvordan vi regulerer DNA-syntese og adgang til biolaboratorier
• Hvilke ansvar AI-udviklere har for misbrug
• Hvordan vi bygger meningsfulde sikkerhedsforanstaltninger uden at kvæle gavn