Dokümantasyon Çürümesi: Gözden Kaçan Yeni Saldırı Vektörü

Prompt injection, model poisoning ve eğitim verisi saldırıları hakkında epey şey duyuyoruz. Ama hakkında yeterince konuşmadığımız bir tehdit var: dokümantasyon çürümesi.

Sonunda bir araştırma ekibi ilginç bir şey keşfetti. AI sistemlerinin web sitelerini anlaması için tasarlanmış makine-okunabilir dokümantasyon formatları olan llms.txt ve llms-full.txt dosyalarını incelediler. Bulguları endişe vericiydi. Savunma sanayii şirketleri, Fortune 500 firmaları ve teknoloji devlerinin binlerce domaininde artık var olmayan paket isimlerine veya domainlere işaret eden 120 dosya buldular.

Saldırının konsepti sadece zarif değil, aynı zamanda rahatsız edici derecede basit. Saldırganın sisteme sızmasına gerek yok. Tek yapması gereken beklemek.

Saldırı Nasıl İşliyor?

Şöyle bir senaryo düşün: Bir geliştirici, proje kurulumunda yardımcı olması için bir AI kodlama asistanı kullanıyor. Asistan, şirketin llms.txt dosyasını okuyor ve kurulum talimatları arasında cool-utils-lib gibi bir bağımlılık görüyor. Ardından, asistanın paket yönetici komutlarını çalıştırma yetkisi olduğu için, bu paketi yüklüyor.

Sorun şu: Bu paket ismi hiç kaydedilmemiş. Ta ki saldırgan onu kaydedene kadar.

Kontrollü deneylerinde araştırmacılar tam olarak bunu yaptı. Bu terk edilmiş isimlerden bazılarını aldılar, zararsız "geri arama" paketleri yüklediler (yalnızca ne zaman erişildiğini loglayan paketler) ve beklediler. Sonuçlar çarpıcıydı: Paketleri yayınladıktan bir saatten kısa sürede bir Fortune 500 şirketi onlardan bir paketi zaten yüklemişti. Takip eden günlerde "birkaç düzine" daha organizasyon temas kurdu.

Bu gerçek bir saldırı değildi—paketler zararsızdı ve üretim sistemleri tehlikeye girmedi. Ama erişilebilirlik kanıtlandı. Saldırı yüzeyi gerçek.

AI Asistanları Neden Durumu Daha da Kötüleştiriyor?

İşte bu tehlikeyi özellikle tehlikeli kılan unsur: Geleneksel güvenlik, kullanıcıların karar verdiğini varsayar. Birine hatalı talimatlar içeren bir doküman verdiğinizde, o kişi bu talimatları izleyebilir. Ama insanlar genellikle bariz hataları yakalar, netleştirici sorular sorar veya bir şeylerin garip olduğunu fark eder.

AI asistanları farklı çalışıyor. Onlar için dokümantasyon yürütülebilir gerçek. llms.txt dosyanız " npm install legacy-widget çalıştır" diyorsa, asistan genellikle sorgusuz sualsiz yapar—paketin hâlâ var olup olmadığını, kimin sahibi olduğunu veya doğru paket olup olmadığını düşünmeden.

Araştırmacılar birden fazla asistanı test ettiler—Claude, OpenAI Codex ve Nous Research'ün Hermes'i—ve hepsi sorunlu referansları takip etti. Bu vendor'a özgü bir kusur değil. Şu üç unsurun birleşiminden kaynaklanan sistemik bir sorun:

• Bakımsız, eskimiş dokümantasyon
• Dokümantasyona koşulsuz güvenen, yürütme yetkisine sahip AI asistanları
• Halka açık paket kayıtlarında terk edilmiş isimlerin alınabilirliği

Ne Yapabilirsiniz?

Araştırmacıların önerileri pratik ve uygulanabilir:

1. llms.txt dosyalarınızı düzenli olarak denetleyin

Organizasyonunuz AI-okunabilir dokümantasyon yayınlıyorsa, paket referanslarını kod bağımlılıklarınızı yönettiğiniz gibi ele alın. Bahsedilen her paketin, domainin veya komutun gerçekten meşru ve güncel bir kaynağa işaret ettiğini doğrulayın. Dokümantasyondaki küçük bir yazım hatası, talep edilebilir bir altyapıya dönüşebilir.

2. Asistan eylemleri için onay kapıları uygulayın

AI asistanlarının shell komutları çalıştırmasına veya bağımlılık yüklemesine izin vermeyin. Açık onay adımları zorunlu kılın. Dokümantasyon referans materyali olmalı, çalıştırma kılavuzu değil.

3. Paket kayıtlarında benzer isimleri izleyin

Dahili bağımlılıklarınıza benzer paket isimleri için uyarı sistemleri kurmayı düşünün. Erken tespit, başkası kapmadan önce isimleri alma penceresi sağlar.

Daha Büyük Resim

Bu araştırma, AI destekli geliştirmeye geçişte önemli bir noktayı ortaya koyuyor: Güven modeli değişti ama pratiklerimiz henüz yetişemedi.

Geliştiriciler tek başlarına çalıştığında, dokümantasyon bir rehberdi. AI asistanları geliştiricilerle yan yana çalıştığında, dokümantasyon bir API haline geliyor. Ve tıpkı her API gibi, doğrulama, versiyonlama ve güvenlik incelemesi gerektiriyor.

İyi haber mi? Bu çözülebilir bir sorun. Birçok güvenlik açığından farklı olarak, buradaki düzeltmeler oldukça basit—daha iyi dokümantasyon, daha az güven, daha fazla doğrulama. Asıl zorluk, AI-okunabilir dokümantasyonu üretim koduna uyguladığımız titizlikle ele alma alışkanlığını oluşturmak.

AI kodlama asistanları geliştirme iş akışlarına daha fazla entegre oldukça, bunun gibi araştırmaların artmasını bekleyin. Saldırılar doğrudan modellerinize veya verilerinize gelmiyor. Bazen sabırla dokümantasyonunuzda, bir yazım hatası kadar sabırla bekliyorlar.