AI Agent'lerinin Gizli Mimarisi: Herkesin Yanlış Bildiği Şey

Son zamanlarda AI agent'larıyla haşır neşir olduysanız, garip bir şey fark etmişsinizdir: Bazen karmaşık talimatları kusursuzca takip ederler, bazen de en basit kuralları görmezden geliverirler.

Hayal kırıklığına uğramayın—bu sizin paranoyanız değil. Her AI agent'ının altında bu davranışı açıklayan temel bir mimari var. Ve bunu bir kez kavradığınızda, geri kalan her şey oturuyor.

Sırrın Kendisi: Sonsuz Döngü

Size neredeyse fazlasıyla basit gelebilecek bir sır: Bir AI agent'ı özünde bir while-true döngüsü ve bir diziye (array) ekleme işleminden ibaret.

while True:
    kullanici_girdisi = girdi_al()
    yanit = llm.tamamla(kullanici_girdisi)
    if yanit.arac_istegi:
        sonuc = araci_calistir(yanit.arac_cagrisi)
        yanit = llm.tamamla(sonuc)
    print(yanit)

Bu kadar. İşte çekirdek mimari bu. Geri kalan her şey—araç tanımları, sistem prompt'ları, context yönetimi—bu döngünün etrafına örülmüş bir kafesten ibaret.

Bahsettiğimiz "dizi", context window'dur. Her API çağrısı, kümülatif tüm konuşmayı gönderir. Her konuşma turu sonuna eklenir. Modelin kendisi çağrılar arasında tamamen durumsuz (stateless) kalır.

Context window'unuz şunları içerir: sistem prompt'u, araç tanımları, kullanıcı mesajı, asistan yanıtları, araç sonuçları ve içine sıkıştırdığınız ne varsa. Bu dizi her etkileşimle büyür.

Akıllı Bölge Problemi

İşlerin ilginçleştiği nokta burası. Çoğu geliştirici, context window'un homojen olduğunu varsayar—bilgiyi içine atarsınız, model eşit şekilde işler.

Ama durum böyle değil.

Context window'unuzun ilk yaklaşık %40'lık kısmı, modelin net düşündüğü bölgedir. Buna "akıllı bölge" diyebiliriz. Bu eşiği geçtikten sonra, dikkat dağılır. Araç seçimleri gevşer. Talimatlar unutulur. Hedef sürüklenmeye başlar.

Bu, daha fazla context eklemenin bazen agent'ınızın performansını düşürmesinin sebebini açıklıyor. Frontier thinking modelleri yaklaşık 150-200 talimata kadar güvenilir şekilde uyar. Bu eşiği aştığınızda, prompt'un en üstündeki açık kurallar bile görmezden gelinir.

Bir düşünün: Sistem prompt'larını, çoklu araç tanımlarını, konuşma geçmişini ve referans belgelerini üst üste koyuyorsanız, kullanışlı talimatlarınız modelin güvenilir şekilde takip edebileceği noktayı aşmış olabilir.

Kimsenin Konuşmadığı Tahsisat Problemi

Statik içerikler, agent performansının sessiz katilidir.

Konuşmanız başlamadan önce, gerekli görünen şeylerle context window'unuzu dolduruyorsunuz muhtemelen: kapsamlı sistem prompt'ları, uzun araç tanımları, bellek bankaları, MCP konfigürasyonları, dokümantasyon referansları.

Tüm bu statik içerik, ilk kullanıcı mesajı gelene kadar akıllı bölgenizi tüketir.

Sonuç mu? En önemli talimatlarınız—bu spesifik görev için agent'ınızın davranışını tanımlayanlar—küçülen akıllı bölgede yer için yarışır hale gelir.

İşte en iyi agent'ların sıfırdan başladığı yer burası. Yeni bir oturum, boş bir context window demek. Birikmiş çürüme yok. Önceki görevlerden gelen çelişen talimatlar yok. Sadece iş için gerekenler var.

Context Çürümesi: Sessiz Başarısızlık Modu

Context yönetiminin tricky yanı şu: Hiçbir şey başarısız olmaz.

Geleneksel yazılımda hatalar alırsınız. İstisnalar. Tespit edip handle edebileceğiniz başarısızlıklar. Ama context window'larda her çağrı başarılı olur. Model yanıt verir. Sadece... kötüleşir.

Aynı window. Aynı model. Sadece dolar.

Buna "context çürümesi" diyoruz—context window birikmiş konuşma geçmişi, araç sonuçları ve dokümantasyon referanslarıyla doldukça agent performansının kademeli olarak bozulması. Hata mesajı görmezsiniz. Sadece agent'ınızın güvenilirliğinin, odaklanmasının ve talimatlarınıza uyumunun azaldığını fark edersiniz.

Bu, tipik yazılım hatalarından temel olarak farklıdır. Bir başarısızlık değil—kapasite sorunudur. Ve size gizlice yaklaşır.

Akıllı Bölgeyi Kendi Lehine Kullanmak

Bu prensipleri anlamak, pratik stratejilere yol açar:

Her görev için sıfırdan başlayın. Önceki projeden yorulmuş bir window'u tekrar kullanmayın. Yeni görevler yeni oturumlar alır. Temiz bir zemin, tam akıllı bölge.

Sadece bu görev için gerekenleri ekleyin. Diğer işlerde kullanışlı olan o MCP entegrasyonu mu? Çıkarın. Farklı projeden notlar mı? Sadece yer kaplıyorlar. Context'e giren her şeyi acımasızca filtreleyin.

Diske taşıyın. Büyük dosyalar diskte kalsın. Özetler window'a girsin. Dosyayı ihtiyacınız olduğunda okuyabilirsiniz—bir kez context window için özetledikten sonra.

Yan görevler için alt-agent'lar kullanın. Agent'ınız ana görevle bağlantısı ancak dolaylı olan bir şeyi keşfetmesi gerektiğinde, bir alt-agent başlatın. Araştırsın ve bir paragrafla dönsün. Keşif, ana context'inizi kirletmesin.

Çizginin altında yer bırakın. Agent'ınız ana işi bitirdiğinde, hâlâ son rötuşlar var—test yazma, kodu commit'leme, linter çalıştırma. Context'iniz tamamen doluysa, bu kritik son adım için yer kalmaz.

Büyük işleri oturumlara bölün. Bir görev bir window'a sığmayacaksa, önce planlayın. Spesifikasyonu diske yazın. Birden fazla agent, bir öncekinin bıraktığı yerden devam etsin.

Asıl Çıkarım

Her oturum sıfırdan başlar. Context kendi kendine düzenlenmez.

Context tahsisatını, rotasyonunu, sıkıştırmasını ve kurtarmasını yöneten birisi olmalı. Akıllı bölgede tutmaya değer neyin, diske taşınacağına kimin karar vereceğini belirleyen birisi olmalı.

Anthropic, agent harnes'ini gönderir—while-true döngüsünü, araç yürütmeyi, temel LLM entegrasyonunu. Siz de etrafına örülecek katmanı gönderirsiniz. Context yönetimini. Görev çerçevelemesini. Sistem prompt tasarımını.

Bu mimariyi anlamak sizi bir gecede AI uzmanı yapmaz. Ama agent'larınızın neden saptığına dair bir çerçeve ve context yönetimini sistematik düşünmek için bir kelime dağarcığı verir.

Bir dahaki sefere agent'ınız talimatları görmezden gelmeye başladığında, tam olarak neye bakacağınızı bileceksiniz: Akıllı bölgenizin ne kadarı hâlâ kullanılabilir ve onu ne dolduruyor.

İşte gizli mimari bu. Şimdi gidin, bir şeyler inşa edin.