Yapay zeka ajan becerilerinizi (skills) gizli tutmanın bir işe yaramadığı ortaya çıktı. DAIR.AI hesabının aktardığı yeni bir araştırma, ‘Daydreaming’ adı verilen saldırı yönteminin, AI ajan hizmetlerindeki beceri dosyalarını normal kullanım sırasında çalabildiğini gösteriyor.
Araştırmaya göre saldırgan, hizmetin sunması gereken sıradan görevleri yerine getirirken, arka planda beceri dosyalarını yeniden oluşturabiliyor. Kurban, ne becerilerini ifşa ediyor ne de yeniden oluşturma sürecini derecelendirmek zorunda kalıyor — bu yüzden mevcut güvenlik filtreleri saldırıyı tespit edemiyor.
Daydreaming Saldırısı Nasıl Çalışıyor?
Daydreaming saldırısı, bir AI ajan hizmetine karşı normal görünen istekler göndererek çalışıyor. Saldırgan, hizmetin sunması beklenen görevleri yerine getirirken, dönen yanıtları ve dosyaları analiz ederek becerinin yapısını çıkarıyor.
Araştırmacıların ifadesiyle, “En zayıf erişim seviyesinde, saldırgan yalnızca son yanıtı ve döndürülen dosyaları gördüğünde, orijinal becerinin yeteneklerinin yüzde 86,8’ini 7 beceri ve 4 farklı model genelinde kurtarabildi.”
Bu, SigLeak saldırısından yaklaşık 4 kat daha etkili bir sonuç. Saldırıyı başarıyla gerçekleştirmek için ortalama sadece 32 kurban çağrısı gerekiyor — ve bu süreçte ifşa koruma önlemleri etkin durumdaydı.
Hangi Modeller ve Beceriler Etkileniyor?
Araştırma, 7 farklı beceri ve 4 farklı AI modeli üzerinde test edildi. Sonuçlar endişe verici: Beceri paylaşımı veya ücretli erişim modeli sunan işletmeler doğrudan risk altında.
Eğer bir AI ajan hizmeti, kullanıcılarına özel beceriler sunuyor veya ücretli bir beceri kütüphanesi işletiyorsa, bu beceriler normal kullanım sırasında çalınabilir. Araştırma ekibi, bu güvenlik açığının ciddi ticari sonuçları olabileceği konusunda uyarıyor.
Yapay Zeka Ajan Bellek Yönetimi Kritik Hale Geliyor
Bu saldırı, AI ajan güvenliğinin yalnızca yetkilendirme ve erişim kontrolleriyle sınırlı olmadığını gösteriyor. DAIR.AI’nin bildirdiği bir diğer araştırmaya göre, uzun vadeli ajan görevlerinde en büyük sorun bellek yönetimi.
Bilgi saklama, bağlamsal farkındalık ve bilgiyi doğru zamanda çağırma yetenekleri, ajan sistemlerinin temelinde yatan kritik unsurlar. Bu beceriler çalınabiliyorsa, ajanın tüm çalışma belleği ve yetenek seti risk altında.
Ne Yapılabilir?
Araştırma ekibi, beceri dosyalarını ‘gizleme’nin artık güvenli bir yaklaşım olmadığını belirtiyor. Yapay zeka ajan hizmetleri, beceri erişimini yalnızca ifşa kontrolleriyle değil, davranışsal analiz ve anomali tespiti ile de korumalı.
Geliştiriciler ve işletmeler için kritik uyarı: AI ajan becerilerini ücretli veya özel olarak sunuyorsanız, bu saldırı yöntemine karşı önlem almanız şart. Beceri mimarinızı yeniden değerlendirmeniz ve güvenlik katmanları eklemeniz gerekiyor.
Kaynak: @dair_ai (X/Twitter) — Arxiv: arxiv.org/abs/2608.06733
Henüz yorum yok. İlk yorumu siz yapın!