Uzun süreli görevlerde yapay zeka ajanlarının bellek yönetimi, model performansının en kritik unsurlarından biri haline geldi. Quang Dao, Purvi Kathalkar ve Kenneth Eaton tarafından geliştirilen Weighted Memory Tree (WMT), bu soruna yeni bir çözüm sunuyor. Peki bu sistem nasıl çalışıyor ve neden önemli?
Weighted Memory Tree Nedir?
Weighted Memory Tree, büyük dil modellerinin (LLM) çok adımlı görevlerde kullandığı bellek yaklaşımını köklü biçimde değiştiren bir hiyerarşik bellek sistemidir. Geleneksel yöntemlerin aksine, bu sistem her bellek öğesine dinamik bir “tutma puanı” atar. Bu puan, olay tabanlı güncellemelerle yükseltilirken, seçim tabanlı çürüme ile düşürülüyor.
Sistem, yürütmeyi üç katmanlı bir hiyerarşiye organize eder: görevler (tasks), alt görevler (subtasks) ve eylemler (actions). Her katmanda bellek öğeleri ayrı ayrı değerlendirilir ve puanlama mekanizması sayesinde yalnızca kritik bilgiler aktif kalır.
Geleneksel Bağlam Kırpmanın Kalıcı Kayıp Sorunu
Mevcut yapay zeka ajanları, bağlam penceresinin dolması durumunda içerik kırpmaya (context trimming) başvuruyor. Ancak bu yaklaşım ciddi bir handikapa sahip: yanlış bir bilgi çıkarıldığında, ajanın o bilgiye geri dönme şansı yok.
Weighted Memory Tree bu sorunu “katlama” (folding) mekanizmasıyla çözüyor. Bir alt görev tamamlandığında, adım adım ilerleyen detaylar özet bir forma dönüşür, ancak tam sürüm gerektiğinde geri çağrılabilir halde kalır. Böylece aynı token tasarrufu sağlanırken, geri dönüş yolu açık bırakılıyor.
Benchmark Sonuçları: Yüzde 32,8 Daha Az Token, Yüzde 9,97 Daha Yüksek Doğruluk
Araştırmacılar WMT’yi GAIA-Text benchmark’ında Qwen3-8B, Gemma 4 E4B ve Llama-3.1-8B modelleri üzerinde test etti. Sonuçlar dikkat çekici:
- Doğruluk: Lineer bellek yaklaşımına kıyasla ortalama 9,97 puan artış
- Token Kullanımı: Prompt token tüketiminde yüzde 32,8 azalma
- Bellek Zehirlenmesi Testleri: WMT’nin güvenilir olmayan bilgilerin yayılımını sınırlandırdığı kanıtlandı
Bu bulgular, uzun süreli ajan görevlerinde daha fazla bilgi depolamaktan ziyade hangi bilgilerin aktif kalacağına karar vermenin daha etkili olduğunu ortaya koyuyor.
Olay Tabanlı Güncelleme ve Seçim Tabanlı Çürüme Nasıl Çalışıyor?
WMT’nin puanlama mekanizması iki temel dinamiğe dayanıyor:
Olay tabanlı güncelleme, bir alt görevin tamamlanması veya kritik bir bilginin keşfedilmesi gibi durumlarda ilgili bellek öğelerinin tutma puanını artırıyor. Seçim tabanlı çürüme ise bir bilginin kullanılmadığı veya artık güncel olmadığı durumlarda puanı düşürüyor.
Sistemin en güçlü özelliklerinden biri, tamamlanan alt görevlerin detaylı ilerleme kaydını özet bir forma dönüştürmesi ancak gerektiğinde orijinal ayrıntılara dönebilmesidir.
Sonuç
Weighted Memory Tree araştırması, yapay zeka ajanlarının bellek yönetiminde yeni bir paradigmaya işaret ediyor. Daha fazla bilgi depolamak yerine hangi bilgilerin aktif kalacağına akıllıca karar vermek, hem maliyet hem de performans açısından daha sürdürülebilir bir yol sunuyor.
Kaynak: Weighted Memory Tree Paper – arxiv.org/abs/2608.20631
Henüz yorum yok. İlk yorumu siz yapın!