Yapay Zeka Kod Asistanların "Unutma" Problemi

Düşün back: Salı günü, yapay zeka kod asistanının önerilerini inceliyorsun. Ve karşına tanıdık bir kalıp çıkıyor — tam da ekibin geçen sprint'te reddettiği yaklaşımla neredeyse aynı.

Bu tanıdık geliyor değil mi?

İşte acı gerçek: Context penceren ne kadar büyük olursa olsun, yapay zeka asistanın hâlâ her göreve sıfırdan başlayan, kurumsal hafızası olmayan parlak bir stajyer gibi çalışıyor. Devasa bir sohbet yürütebilir ama reddedilen bir öneri ile açık bir soru arasındaki farkı ayırt edemez.

Context Boyutu Aldatmacası

Bize basit bir hikâye sattılar: Daha büyük context pencereleri = Daha zeki yapay zeka. Evet, büyük pencereler işe yarıyor. Model daha fazla dosya görebilsin, daha uzun log'ları parsersın, tartışmaları özetlemeden önce daha çok şeye reference yapabilsin istiyoruz. Buna kimse itiraz etmiyor.

Ama kimse şundan bahsetmiyor: Context boyutu ile süreklilik (continuity) temelden farklı şeyler. Context boyutu şu soruyu yanıtlıyor: "Model şu anda ne kadar metin görebilir?" Süreklilik ise daha derin bir şey soruyor — "Sistem bu prompt'tan önce ne olduğunu gerçekten biliyor mu?"

Süreklilik demek; hangi bulguların gerçek, hangilerinin elendiğini bilmek demek. Ekip olarak hangi kodlama kurallarını düzelttiğini hatırlamak demek. Hangi dosyaların genellikle birlikte hareket ettiğini bilmek demek. Hang mimari yaklaşımların çıkmaz sokak olduğunu bilmek demek. Hangi varsayımların önceden yanlışlandığını bilmek demek.

Daha geniş bir pencere daha çok metin taşır. Neyin önemli olduğuna karar veremez. Ne güvenileceğini bilemez. Geçen haftaki review'daki bir düzeltmeyi, bugünkü öneriye bir kısıtlama olarak uygulayamaz.

Neden Ekibin İçin Önemli

NameOcean'un Vibe Hosting gibi platformlarda AI destekli geliştirme araçlarıyla ürünler inşa ediyorsan, araçlarının zamanla akıllanmasını beklersin. Bir şeyi düzelttiğinde, geçersin. Kenar durumu bir dahaki sefere tekrar karşına çıktığında, bir farkındalık beklersin.

Ama çoğu kodlama aracısı ya şöyle çalışıyor:

• Context-native: Doğru dosyaları prompt'a tıkıştırır ve şansını dener
• Tool-native: Arayabilir, grep yapabilir, sembolleri inceleyebilir, harici sistemleri çağırabilir

Her iki yaklaşımın da değeri var. Ama ikisi de her görevi taze bir soruşturma gibi ele alıyor. Yapay zeka asistanın, üç hafta önce tam bu kalıbı önerdiğini ve senin dağıtık kurulumun için neden çalışmayacağını yirmi dakika açıklamak zorunda kaldığını bilmiyor.

Retrieval Çözüm Değil (Ve Bu İyi)

Kaçınılmaz itiraz: "Daha iyi retrieval kullan o zaman. Repo'yu indexle, graf kur, ilgili dosyaları yüzeye çıkar."

Daha iyi retrieval, diff'leri chat penceresine yapıştırmaktan kesinlikle daha iyi. Buna kimse itiraz etmiyor. Ama retrieval ve hafıza farklı problemleri çözüyor.

Retrieval şu soruyu yanıtlıyor: "Şu anda hangi metin alakalı olabilir?" Hafıza şu soruyu yanıtlıyor: "Bu kod tabanı cevabımızı kısıtlaması gereken ne öğretti?"

Bunlar birbirinin yerine geçemez. Bir arama, yapay zekana mevcut implementasyonu gösterebilir. Ama ekibinin bu kalıbı review'da zaten reddettiğini, şüpheli bir bulgunun daha önce false positive olarak kanıtlandığını, ya da üretim ortamının bağımlı olduğu garip bir yerel konvansiyonun olduğunu söyleyemez.

İşte bu yüzden asistanın doğru dosyayı bulması ama aynı soruyu sorması, aynı helper fonksiyonu okuması ama yanlış abstraction önermesi, aynı diff'i incelemesi ama son review'u faydalı kılan insan düzeltmesini kaçırması mümkün.

Memory-Native Gerçekte Ne Anlama Geliyor

İşte işlerin ilginçleştiği yer. Her görevde sıfırdan başlamayan, aksine review'lardan, reddetmelerden, yorumlardan, düzeltmelerden ve evet, başarılı aracı oturumlarından güncellenen kalıcı bir arka katmanla çalışan bir kodlama aracısı hayal et.

Her etkileşim, gelecek etkileşimlerin kullanabileceği bir kanıt bırakır.

Bu, her şeyi sonsuza kadar depola demek değil. Etkileşim verilerinin çoğu birkaç gün sonra gürültüden ibaret. Değerli parçalar şunlar: kararlar, düzeltmeler, görev durumu, konvansiyonlar, bağımlılık ilişkileri ve kanıt. Hafıza katmanı seçici olmalı, yoksa dip geçtiğin context yığının yeni bir versiyonuna sahip olursun.

Asıl fark, modelin görebileceği metin miktarında değil. Önceki kararların, düzeltmelerin ve kanıtın bir sonraki göreve aktarılıp aktarılmadığında.

Döngü Her Şeyi Değiştirir

Context-first bir iş akışında, aracı prompt'unla başlar, dosyaları toplar, akıl yürütür ve bir cevap verir. Cevap yanlışsa, düzeltirsin. Çoğu araçta bu düzeltme chat geçmişinde kalır — belki oturum boyunca hayatta kalır, belki özetlenir, çoğu zaman gelecek çalıştırmalar için kalıcı bir kısıtlama haline gelmez.

Memory-native bir iş akışında, bu düzeltme sadece bir konuşma değil, bir sinyal. Bir reddetme, kabul edilmiş bir düzeltme, bir review yanıtı — bunların hepsi arka katmanı günceller. Bir sonraki sefere aracı aynı kod yüzeyine dokunduğunda, sıfırdan başlamaz. Kod tabanının öğrenilmiş şeklini devralır: neyin önemli olduğunu, neyin zaten kontrol edildiğini, ekibin ne tercih ettiğini, hangi iddiaların kanıta ihtiyaç duyduğunu.

Bu, modelin işini tamamen değiştirir. Model hâlâ akıl yürütüyor, ama artık her seferinde tüm kurumsal hafızayı ham metinden yeniden oluşturmakla yükümlü değil. Sistemin etrafındaki kalıcı parçaları taşıması sayesinde gerçek probleme kapasitesini harcayabilir.

Ekibin İçin Çıkarım

AI destekli geliştirme araçlarını değerlendiriyorsan — ister startup'ının bir sonraki ürünü için, ister kendi geliştirme iş akışın için — sadece "Context penceresi ne kadar büyük?" diye sorma. Şunları sor:

• Bu oturum bittikten sonra düzeltmelerime ne oluyor?
• Araç zamanla kod review'larından öğreniyor mu?
• Mevcut kod ile tarihsel kararları ayırt edebiliyor mu?
• Bir kalıbı reddettiğimde hatırlıyor mu?

Geleceğin en iyi AI kodlama araçları daha fazla context işlemeyecek. Ekibinin zaten bildiği şeyleri hatırlayacak, saatler alan kararları ileri taşıyacak ve çıkmaz sokakları tekrar tekrar ziyaret etmekle herkesin vaktini harcamayı bırakacak.

Kod yazabilen bir yapay zeka asistanı ile gerçekten seninle çalışan bir yapay zeka asistanı arasındaki fark bu. Ve dürüstçe söyleyeyim mi? Sprint hızın ikincisine bağlı.