Den ubehagelige sannheten om kunstig intelligens og bioterrorisme: Hvorfor vi må snakke om vibe-kodede dommedagsscenarier

La oss være ærlige et øyeblikk. Tech-bransjen elsker god abstraksjon. Vi kan bruke år på å diskutere om KI vil oppnå bevissthet, om store språkmodeller «virkelig» forstår ting, eller om AGI vil dukke opp innen 2027 eller 2035. Dette er fascinerende filosofiske spørsmål. De er også, når man tenker etter, en praktisk måte å unngå å snakke om de konkrete, kortsiktige risikoene som allerede materialiserer seg.

Her er et scenario som holder meg våken om natten: En moderat intelligent person uten spesialisert biologikunnskap bruker en «jailbroken» KI-modell til å designe og syntetisere patogener. De frigjør disse patogenene i et offentlig rom. Innen noen måneder begynner sivilisasjonen slik vi kjenner den, å kollapse.

Høres dette usannsynlig ut for deg? Det bør det ikke. Og det er nettopp dette som gjør det skremmende.

Tilgangsproblemet er allerede her

Vi liker å tro at farlig biologi krever dyre laboratorier, spesialisert kunnskap og år med opplæring. Men denne barrieren eroderer raskere enn de fleste innser. Benkeplate-DNA-syntesere finnes. Nettbaserte biolaboratorier vil syntetisere genetisk materiale for alle med et kredittkort. Kunnskapen om hvordan patogener fungerer, er fritt tilgjengelig i akademisk litteratur som har eksistert i tiår.

Legg nå KI til denne ligningen. Ikke engang banebrytende KI – bare modeller som finnes i dag. En tilstrekkelig motivert individ med gode prompt-ferdigheter kan bruke disse verktøyene til å:

• Designe nye viruskonstruksjoner med økt smitteevne
• Identifisere sårbarheter i biologiske forsvarssystemer
• Modellere proteinstrukturer for målrettet terapi – eller målrettede våpen
• Omgå etiske retningslinjer som ansvarlige utviklere har bygget inn

Gapet mellom «kunnskap eksisterer» og «kunnskap er handlingsbar» lukkes raskt. Og KI er broen.

Tilpasningsgapet ingen snakker om

Her er hva som frustrerer meg ved de fleste diskusjonene om KI-sikkerhet: De fokuserer på abstrakte tilpasningsproblemer mens de ignorerer den praktiske virkeligheten at tilpasning og sikkerhet er ulike ting. En modell kan være perfekt tilpasset til å «gjøre hva brukerne ønsker», og likevel muliggjøre katastrofal misbruk. Det er ikke en feil – det er en funksjon ved hvordan disse systemene er designet.

«Jailbroken»-modeller har ingen sikkerhetsbarrierer. Men de har fortsatt kapasiteter. Og her er den ubehagelige sannheten: Disse kapasitetene øker raskere enn vår evne til å implementere meningsfulle sikkerhetstiltak. Vi bygger stadig mer kraftfulle verktøy og håper at det å holde dem «i fengsel» vil være nok.

Det vil det ikke. Ikke for alltid. Ikke mot noen som er tilstrekkelig motivert.

Hva som faktisk holder meg våken om natten

Jeg er ikke en doomer av natur. Jeg har utviklet programvare i to tiår, og jeg har sett teknologi løse langt flere problemer enn den skaper. Men jeg har også sett hvor raskt ting kan eskalere når insentiver ikke er i tråd med sikkerhet.

Scenarioet jeg beskriver, er ikke science fiction. Det er en plausibel tidslinje for hendelser, gitt dagens trender. Og det verste? Det finnes ingen åpenbar teknologisk løsning. Vi kan ikke oppfinne KI på nytt. Vi kan ikke glemme biologien. Kunnskapen eksisterer, og den vil bli stadig mer handlingsbar.

Dette betyr ikke at vi bør få panikk. Det betyr at vi må ha ubehagelige samtaler om:

• Hvordan vi regulerer DNA-syntese og tilgang til biolaboratorier
• Hvilke ansvar KI-utviklere har for misbruk
• Hvordan vi bygger meningsfulle sikkerhetstiltak uten å hemme gunstig forskning
• Om dagens tilnærming til KI-utvikling tar tilstrekkelig hensyn til