Yapay Zeka ve Biyoterörizm Hakkındaki Rahatsız Edici Gerçek: Neden Vibe Kodlamalı Kıyamet Senaryolarını Konuşmamız Gerekiyor

Bir an için dürüst olalım. Teknoloji sektörü soyutlamalara bayılır. Yapay zekanın bilinç kazanıp kazanmayacağını, büyük dil modellerinin şeyleri “gerçekten” anlayıp anlamadığını ya da Yapay Genel Zeka’nın (AGI) 2027’de mi yoksa 2035’te mi ortaya çıkacağını tartışmakla yıllar harcayabiliriz. Bunlar büyüleyici felsefi sorulardır. Ancak biraz düşünüldüğünde, halihazırda somutlaşmaya başlayan yakın vadeli, elle tutulur risklerden bahsetmekten kaçınmanın da pratik bir yolu oldukları açıktır.

Beni geceleri uykusuz bırakan bir senaryo var: Biyoloji alanında uzmanlığı olmayan, orta düzeyde zeki bir kişi, güvenlik kısıtlamaları aşılmış bir yapay zeka modelini kullanarak patojenler tasarlıyor ve sentezliyor. Bu patojenleri kamusal bir alanda yayıyor. Aylar içinde bildiğimiz medeniyet çökmeye başlıyor.

Bu size abartılı mı geliyor? Gelmeyi hak etmiyor. Ve tam da bu yüzden korkutucu.

Erişim Sorunu Zaten Kapımızda

Tehlikeli biyolojinin pahalı laboratuvarlar, uzmanlık bilgisi ve yıllarca süren eğitim gerektirdiğini düşünmeyi severiz. Ancak bu bariyer, çoğu insanın fark ettiğinden çok daha hızlı aşınıyor. Tezgah üstü DNA sentezleyiciler mevcut. Çevrimiçi biyolaboratuvarlar, kredi kartı olan herkese genetik materyal sentezliyor. Patojenlerin nasıl çalıştığına dair bilgi, onlarca yıldır akademik literatürde serbestçe erişilebilir durumda.

Şimdi bu denkleme yapay zekayı ekleyin. Hatta sınır yapay zekayı değil, sadece bugün mevcut olan modelleri düşünün. Yeterli motivasyona sahip ve iyi prompt mühendisliği becerilerine sahip bir birey, bu araçları kullanarak şunları yapabilir:

• Bulaşıcılığı artırılmış yeni viral yapılar tasarlamak
• Biyolojik savunma sistemlerindeki zafiyetleri tespit etmek
• Hedefli terapötikler ya da hedefli silahlar için protein yapılarını modellemek
• Sorumlu geliştiricilerin yerleştirdiği etik güvenlik önlemlerini atlatmak

“Bilginin var olması” ile “bilginin eyleme dönüştürülebilir olması” arasındaki uçurum hızla kapanıyor. Ve yapay zeka bu uçurumu aşan köprüdür.

Kimsenin Konuşmadığı Uyum Açığı

Çoğu yapay zeka güvenliği tartışmasında beni hayal kırıklığına uğratan şey, soyut uyum sorunlarına odaklanırken, uyum ve güvenliğin farklı şeyler olduğu gerçeğini göz ardı etmeleridir. Bir model, “kullanıcıların istediğini yapma” konusunda mükemmel şekilde uyumlu olabilir ve yine de felaket niteliğinde kötüye kullanıma olanak tanıyabilir. Bu bir hata değil; bu sistemlerin tasarım biçiminin bir özelliğidir.

Güvenlik kısıtlamaları aşılmış modellerde güvenlik önlemleri yoktur. Ancak yetenekleri hâlâ mevcuttur. Ve işte rahatsız edici gerçek: Bu yetenekler, anlamlı koruma önlemleri uygulama kapasitemizden daha hızlı artıyor. Giderek daha güçlü araçlar inşa ediyor ve bunları “hapiste” tutmanın yeterli olacağını umuyoruz.

Yeterli olmayacak. Sonsuza dek değil. Yeterince motive olmuş birine karşı hiç değil.

Beni Gerçekten Uykusuz Bırakan Şey

Doğam gereği karamsar değilim. Yirmi yıldır yazılım geliştiriyorum ve teknolojinin yarattığından çok daha fazla sorunu çözdüğünü gördüm. Ancak teşviklerin güvenlikle çeliştiğinde işlerin ne kadar hızlı kontrolden çıkabildiğini de gördüm.

Anlattığım senaryo bilim kurgu değil. Mevcut eğilimler göz önüne alındığında, olayların olası bir zaman çizelgesidir. Ve en kötü kısmı? Belirgin bir teknolojik çözüm yok. Yapay zekayı icat etmemiş gibi yapamayız. Biyolojiyi unutamayız. Bilgi mevcut ve giderek daha eyleme dönüştürülebilir hale