Yeni bir arastirma, baglam sikistirma yontemlerinin buyuk dil modellerinin oturum boyunca belirlenen onemli kurallari gizlice dusturunu ortaya koydu. DAIR.AI’nin paylastigi arastirmaya gore, mevcut baglam sikistiricilari ortalama olarak enjekte edilen oturum kisitlamalarinin yalnizca yuzde 17’sini koruyabiliyor.
Oturum Kisitlamalari Nedir?
Oturum Kisitlamalari (Session Constraints), bir kullanicinin LLM’ye verdigi ve oturumun geri kalaninda baglayici olan talimatlardir. Ornekler arasinda “onaylamadan hicbir e-postayi silme” veya “tum yanitlari once bana goster” gibi kurallar yer alir.
COMPINT Degerlendirme Suiti
Bu sorunu olcmek icin arastirmacilar COMPINT degerlendirme suitini gelistirdi. Bu suit, uc farkli uzun baglam senaryosunda sikistiricilari test ediyor: coklu turlu sohbet, ajan tabanli yorunge ve uzun vadeli arastirma.
Temel Bulgular
Arastirmanin sonuclari endise verici: Mevcut sikistiricilar ortalama olarak yalnizca yuzde 17 oraninda oturum kisitlamasi koruma oranina sahip. Cogu sikistirici, ayni gorevi sikistirma olmadan calistirmaktan daha kotu performans gosteriyor. Kayip, sikistiriciya, isteme, baglam uzunluguna, kisitlama ifadesine ve enjeksiyon konumuna gore keskin sekilde degisiyor.
Cozum: SC-Aware Ekstraktor
Arastirmacilar, sikistiricinin yaninda calisan ve onu veya LLM’yi degistirmeden yuzde 90’in uzerinde koruma orani saglayan bir SC-aware ekstraktor ozelliyor. Bu cozum, mevcut sistemlere tak-ve-calisir bir modul olarak entegre edilebilir.
Kaynak: Lost in Compaction – arXiv:2608.11242 | @DAIR.AI – X/Twitter
Henüz yorum yok. İlk yorumu siz yapın!