Epämukava totuus tekoälystä ja bioterrorismista: miksi meidän on puhuttava intuitiolla koodatuista tuomiopäiväskenaarioista
Ollaan hetki rehellisiä. Teknologia-alalla arvostetaan hyviä abstraktioita. Voimme viettää vuosia väittelemällä siitä, saavuttaako tekoäly tietoisuuden, ymmärtävätkö suuret kielimallit asioita ”oikeasti” vai syntyykö yleinen tekoäly (AGI) vuoteen 2027 vai 2035 mennessä. Nämä ovat kiehtovia filosofisia kysymyksiä. Kun asiaa miettii, ne ovat myös kätevä tapa välttää puhumista konkreettisista, lähitulevaisuuden riskeistä, jotka ovat jo toteutumassa.
Tässä on skenaario, joka pitää minut valveilla öisin: Kohtuullisen älykäs henkilö, jolla ei ole erityisosaamista biologiasta, käyttää lukituspoistettua tekoälymallia patogeenejen suunnitteluun ja synteesiin. Hän levittää nämä patogeenit julkisessa tilassa. Muutamassa kuukaudessa tuntemamme sivilisaatio alkaa romahtaa.
Kuulostaako tämä epätodennäköiseltä? Sen ei pitäisi. Juuri se tekee asiasta niin kauhean.
Pääsyongelma on jo täällä
Haluaisimme uskoa, että vaarallinen biologia vaatii kalliita laboratorioita, erikoisosaamista ja vuosien koulutusta. Mutta tämä este murenee nopeammin kuin useimmat ymmärtävät. Pöytätason DNA-syntetisaattoreita on olemassa. Verkossa toimivat biolaboratoriot syntetisoivat geneettistä materiaalia kenelle tahansa, jolla on luottokortti. Tieto patogeenejen toimintaperiaatteista on vapaasti saatavilla vuosikymmeniä olemassa olleessa akateemisessa kirjallisuudessa.
Lisää tähän yhtälöön tekoäly. Ei edes huipputason tekoälyä, vaan jo nykyisin olemassa olevia malleja. Riittävän motivoitunut henkilö, jolla on kohtuulliset promptaus-taidot, voi käyttää näitä työkaluja:
- Suunnittelemaan uusia virusrakenteita, joilla on parannettu tarttuvuus
- Tunnistamaan haavoittuvuuksia biologisissa puolustusjärjestelmissä
- Mallintamaan proteiinirakenteita kohdennettuihin lääkkeisiin – tai kohdennettuihin aseisiin
- Ohittamaan eettiset turvamekanismit, jotka vastuulliset kehittäjät ovat rakentaneet
Kuilu tiedon olemassaolon ja tiedon käyttökelpoisuuden välillä umpeutuu nopeasti. Ja tekoäly on silta.
Kohdistusaukko, josta kukaan ei puhu
Tämä ärsyttää minua useimmissa tekoälyn turvallisuutta koskevissa keskusteluissa: ne keskittyvät abstrakteihin kohdistusongelmiin sivuuttaen käytännön todellisuuden, jossa kohdistus ja turvallisuus ovat eri asioita. Malli voi olla täydellisesti kohdistettu ”tekemään käyttäjien haluamia asioita” ja silti mahdollistaa katastrofaalisen väärinkäytön. Se ei ole virhe – se on seuraus siitä, miten nämä järjestelmät on suunniteltu.
Lukituspoistetut mallit eivät sisällä turvallisuusrajoituksia. Mutta niillä on silti kyvykkyyksiä. Ja tässä on epämukava totuus: nämä kyvykkyydet kasvavat nopeammin kuin kykymme toteuttaa merkityksellisiä turvatoimia. Rakennamme yhä tehokkaampia työkaluja ja toivomme, että niiden pitäminen ”vangittuna” riittää.
Se ei riitä. Ei ikuisesti. Ei riittävän motivoituneelle henkilölle.
Mikä oikeasti pitää minut valveilla öisin
En ole luonteeltani doomailija. Olen rakentanut ohjelmistoja kahden vuosikymmenen ajan ja nähnyt teknologian ratkaisevan paljon enemmän ongelmia kuin se luo. Mutta olen myös nähnyt, kuinka nopeasti asiat voivat kääntyä huonoksi, kun kannusteet eivät kohtaa turvallisuuden kanssa.
Kuvaamani