Yapay zeka ajanlarının (AI agent) kullandığı talimat dosyaları neden zamanla kontrolsüz şekilde büyüyor? Bu soruyu araştıran yeni bir çalışma, karşımıza ilginç bir fenomen çıkarıyor: catastrophic remembering (kayıp anımsama).
Araştırmacılar bu durumu şöyle özetliyor: Bir talimat eklemek her zaman ucuz ve kolay, ancak bir talimatın arkasındaki gerekçe silindiğinde, bu talimatı doğruluk kaybı riski olmadan silmek artık O(2^|D|) maliyetli — burada |D| talimat sayısı. Talimat yaşıyor, onu haklı kılan muhakeme kayboluyor.
1.867 Depodan Cesaret Verici Veriler
Çalışma, GitHub’daki 1.867 farklı depoda toplam 247.694 talimat ömrünü analiz etti. Bulgular dikkat çekici:
- AI ajan talimat dosyaları, ömurları boyunca üç kattan fazla büyüdü (%226 artış)
- Her commit’te ortalama +4,9 net talimat ekleniyor
- Bir talimat ne kadar eski olursa, silinme olasılığı o kadar düşüyor (log-hazard: -0,032/commit)
- Dosyaya birden fazla insan yazar dokunduğunda, silinme direnci daha da artıyor
Yani sistemde bir nevi ratchet problemi (geri dönüşü olmayan büyüme) var: Talimat eklemek kolay, silmek imkansıza yakın.
Sonuclari: Ajan Calisiyor Ama Nedenini Bilmiyor
Bu sorun yalnızca teknik bir detay değil. Ortaya çıkan tablo endişe verici:
- Ajan talimatları, bakımcılarının neden o talimatı eklediğini hatırladığı süreden çok daha uzun yaşıyor
- Talimat hâlâ çalışıyor olabilir, ancak onu haklı kılan muhakeme artık yok
- Bu durum, ajanın hatalı veya güncelliğini yitirmiş kurallara bağlı kalmasına yol açıyor
Cozeum: Komutlarin Arkasina Yorum Eklemek
Araştırmacıların önerdiği çözüm oldukça pratik: Her talimatın arkasına, o talimatın hangi başarısızlıktan doğduğunu, hipotezi ve sonucu kaydeden bir yorum eklemek. Bu yorumu, ajanın kendisi okumuyor — yalnızca bakımcılar için duruyor.
51 adımlı IFEval deneyinde, bilgilendirici yorumlar fazladan talimat artışını +211,3%’ten +1,4%’e düşürdü. Yorum şeklinde rastgele eklenen gürültü ise aynı etkiyi yaratmadı — bu da iyileşmenin gerçek muhakeme korunmasından geldiğini gösteriyor.
AI Gelistiriciler Icin Cikarimlar
Eğer İngilizce yeni kodlama dili olduysa, neden hâlâ yorum yok? Bu soru, çalışmanın en çarpıcı final sorusu. AI ajan talimat dosyalarını yönetirken:
- Her talimata “neden” bilgisini ekleyin
- Talimatın hangi hata sonucu eklendiğini kaydedin
- Eski talimatları periyodik olarak gözden geçirin
- Bakım sürecine yeni katılanlar için bir giriş notu hazırlayın
Kaynak: arxiv.org/abs/2608.11095
Henüz yorum yok. İlk yorumu siz yapın!