Sun’iy intellekt va bioterorizm haqidagi noqulay haqiqat: Nima uchun “vibe” usulida kodlangan qiyomat ssenariylari haqida gaplashishimiz kerak

Keling, bir lahza samimiy bo‘lamiz. Texnologiya sohasi abstraktsiyalarni yaxshi ko‘radi. Biz AI ongliikka erishadimi, katta til modellari narsalarni “haqiqatan” tushunadimi yoki AGI 2027-yilgami yoki 2035-yilgami paydo bo‘ladimi degan bahslarga yillar davomida vaqt sarflaymiz. Bu qiziqarli falsafiy savollardir. Biroq, chuqurroq o‘ylab ko‘rsangiz, bu savollar allaqachon namoyon bo‘layotgan aniq va yaqin muddatli xavflar haqida gaplashishdan qochishning qulay usulidir.

Meni tunlari uyqudan qochiradigan ssenariy shunday: Maxsus biologik bilimlarga ega bo‘lmagan, o‘rtacha aqlli odam “qamoqdan chiqarilgan” (jailbroken) AI modelidan foydalanib, patogenlarni loyihalaydi va sintez qiladi. Ushbu patogenlarni jamoat joyida tarqatadi. Bir necha oy ichida biz bilgan sivilizatsiya qulay boshlaydi.

Bu sizga g‘aroyib tuyuladimi? Shunday bo‘lmasligi kerak. Aynan shu holat uni dahshatli qiladi.

Kirish Muammosi Allaqachon Mavjud

Biz xavfli biologiya qimmat laboratoriya jihozlari, maxsus bilimlar va yillik tayyorgarlikni talab qiladi deb o‘ylashni yoqtiramiz. Biroq, bu to‘siq ko‘pchilik o‘ylagandan ham tezroq erib bormoqda. Stol ustida ishlaydigan DNK sintezatorlari mavjud. Onlayn biolaboratoriyalar kredit kartasi bor har bir kishi uchun genetik materialni sintez qilib beradi. Patogenlarning ishlash tamoyillari haqidagi bilimlar o‘nlab yillar davomida mavjud bo‘lgan ilmiy adabiyotlarda bepul ochiq holda turibdi.

Endi bu tenglamaga AI ni qo‘shing. Hozirgi eng ilg‘or (frontier) AI ham emas, aynan bugungi mavjud modellar. Yetarli darajada rag‘batlangan va so‘rov (prompt) yozishda mohir shaxs ushbu vositalardan foydalanib quyidagilarni amalga oshirishi mumkin:

• Yuqumli qobiliyati kuchaytirilgan yangi virus konstruksiyalarini loyihalash
• Biologik himoya tizimlaridagi zaifliklarni aniqlash
• Maqsadli terapevtik vositalar yoki maqsadli qurollar uchun oqsil tuzilmalarini modellashtirish
• Mas’uliyatli dasturchilar tomonidan o‘rnatilgan etik cheklovlarni aylanib o‘tish

“Bilim mavjud” va “bilim amaliyotda qo‘llanilishi mumkin” degan tushunchalar orasidagi farq tez sur’atlar bilan qisqarmoqda. Va AI shu farqni yo‘qotuvchi ko‘prikdir.

Hech Kim Gapirmaydigan Moslik (Alignment) Bo‘shlig‘i

Ko‘pchilik AI xavfsizligi bo‘yicha muhokamalarda meni g‘azablantiradigan narsa shundaki, ular abstrakt moslik (alignment) muammolariga e’tibor qaratib, moslik va xavfsizlik turli tushunchalar ekanligi haqidagi amaliy haqiqatni e’tibordan chetda qoldiradi. Model “foydalanuvchi xohlagan narsani qilish”ga mukammal moslashtirilgan bo‘lsa ham, halokatli suiiste’mol qilish imkonini berishi mumkin. Bu xato emas—bu tizimlarning loyihalash xususiyatidir.

“Qamoqdan chiqar