Az AI és a bioterrorizmus kényelmetlen igazsága: Miért kell beszélnünk a „vibe-kódolt” világvége-forgatókönyvekről
Legyünk őszinték egy pillanatra. A technológiai iparág imádja az elvont fogalmakat. Évekig vitatkozhatunk azon, hogy az MI eléri-e a tudatosságot, hogy a nagy nyelvi modellek „valóban” értik-e a dolgokat, vagy hogy az általános mesterséges intelligencia (AGI) 2027-re vagy 2035-re jön-e létre. Ezek lenyűgöző filozófiai kérdések. Ugyanakkor, ha jobban belegondolunk, kényelmes módjai annak, hogy elkerüljük a már most materializálódó, konkrét, rövid távú kockázatok megvitatását.
Íme egy forgatókönyv, ami éjszakánként nem hagy aludni: Egy átlagos intelligenciájú, speciális biológiai tudással nem rendelkező személy egy „börtönből kiszabadított” (jailbroken) MI-modellt használ kórokozók tervezésére és szintézisére. Ezeket a kórokozókat egy nyilvános helyen szabadítja fel. Néhány hónapon belül a civilizáció, ahogy ismerjük, összeomlani kezd.
Túlzottnak hangzik? Nem kellene. Pont ez teszi félelmetessé.
A hozzáférési probléma már itt van
Szeretjük azt hinni, hogy a veszélyes biológia drága laboratóriumokat, speciális tudást és évekig tartó képzést igényel. De ez a gát gyorsabban omladozik, mint azt a legtöbb ember gondolná. Asztali DNS-szintetizátorok léteznek. Az online biolaborok bárki számára szintetizálnak genetikai anyagot, aki rendelkezik hitelkártyával. A kórokozók működésének ismerete évtizedek óta szabadon elérhető az akadémiai szakirodalomban.
Most képzeljük el, hogy ezt az egyenletet kiegészítjük az MI-vel. Nem is feltétlenül a legfejlettebb MI-vel, hanem a ma már létező modellekkel. Egy kellően motivált egyén, megfelelő promptolási készségekkel, az alábbiakra használhatja ezeket az eszközöket:
- Új víruskonstruktumok tervezése fokozott terjedőképességgel
- A biológiai védelmi rendszerek sebezhetőségeinek feltárása
- Fehérjeszerkezetek modellezése célzott terápiákhoz – vagy célzott fegyverekhez
- Az etikai korlátok megkerülése, amelyeket a felelős fejlesztők beépítettek
A „tudás létezik” és a „tudás alkalmazható” közötti szakadék gyorsan zárul. És az MI híd e két pont között.
Az az illeszkedési (alignment) szakadék, amiről senki sem beszél
Az MI-biztonsággal kapcsolatos legtöbb vitában az a frusztráló, hogy az elvont illeszkedési problémákra fókuszálnak, miközben figyelmen kívül hagyják azt a gyakorlati valóságot, hogy az illeszkedés és a biztonság két különböző dolog. Egy modell tökéletesen illeszkedhet a „felhasználói kívánságok teljesítéséhez”, miközben továbbra is lehetővé teszi a katasztrofális visszaéléseket. Ez nem hiba – ez a rendszerek tervezésének egyik jellemzője.
A „börtönből kiszabadított” modelleknek nincsenek biztonsági korlátai. De megvannak a képességeik. És itt a kellemetlen igazság: ezek a képességek gyorsabban nőnek, mint ahogyan képesek vagyunk értelmes védelmi intézkedéseket bevezetni. Egymást követően egyre erősebb eszközöket építünk, és abban reménykedünk, hogy elég lesz, ha „börtönben” tartjuk őket.
Nem fog elég lenni. Nem örökké. Nem egy kellően motivált egyén ellen.
Mi tart valójában ébren éjszakánként
Természetemnél fogva nem vagyok pesszimista. Két évtizede fejlesztek szoftvereket, és láttam, hogy a technológia sokkal több problémát oldott meg