İçeriğe geç
CANLI Dün Yerli yapay zeka İridaa, kendi modeli “Kuzey”i devreye aldı: Tahmini skorlar rakiplerine göre nerede? 6 gün önce Bu Hafta AI Model Değerlendirmesi (2026-W46) 8 Kas 2026 OpenAI Uyarı Vermeden Hesap Kapatıyor: Aylık 200 Dolarlık Pro Aboneler Bile Etkilendi 8 Kas 2026 Yapay Zekâ 18 Yıllık Kuantum Varsayımını Üç Günde Çözdü: Aaronson-Ambainis Artık Bir Teorem 8 Kas 2026 Gemini 4 Flash ve Yeni Claude İçin İşaretler Artıyor: LMArena’da ‘Hydrogen’, Sızıntıda ‘Hyperion’ Zekâ endeksi lideri Claude Opus 5 (Adaptive Reasoning, Max Effort) · 63,1 16.11.2026
Bülten

Yapay Zeka Haberleri

Daydreaming Saldırısı: AI Ajan Becerileriniz Normal Kullanımda Çalınıyor

Yapay zeka ajan becerilerinizi (skills) gizli tutmanın bir işe yaramadığı ortaya çıktı.

· 2 dk okuma · 0 yorum

Yapay zekâya sor Paylaş
Kısaca · 3 madde
  1. Yapay zeka ajan becerilerinizi (skills) gizli tutmanın bir işe yaramadığı ortaya çıktı.
  2. Araştırmaya göre saldırgan, hizmetin sunması gereken sıradan görevleri yerine getirirken, arka planda beceri dosyalarını yeniden oluşturabiliyor.
  3. Daydreaming Saldırısı Nasıl Çalışıyor?

Yapay zeka ajan becerilerinizi (skills) gizli tutmanın bir işe yaramadığı ortaya çıktı. DAIR.AI hesabının aktardığı yeni bir araştırma, ‘Daydreaming’ adı verilen saldırı yönteminin, AI ajan hizmetlerindeki beceri dosyalarını normal kullanım sırasında çalabildiğini gösteriyor.

Araştırmaya göre saldırgan, hizmetin sunması gereken sıradan görevleri yerine getirirken, arka planda beceri dosyalarını yeniden oluşturabiliyor. Kurban, ne becerilerini ifşa ediyor ne de yeniden oluşturma sürecini derecelendirmek zorunda kalıyor — bu yüzden mevcut güvenlik filtreleri saldırıyı tespit edemiyor.

Daydreaming Saldırısı Nasıl Çalışıyor?

Daydreaming saldırısı, bir AI ajan hizmetine karşı normal görünen istekler göndererek çalışıyor. Saldırgan, hizmetin sunması beklenen görevleri yerine getirirken, dönen yanıtları ve dosyaları analiz ederek becerinin yapısını çıkarıyor.

Araştırmacıların ifadesiyle, “En zayıf erişim seviyesinde, saldırgan yalnızca son yanıtı ve döndürülen dosyaları gördüğünde, orijinal becerinin yeteneklerinin yüzde 86,8’ini 7 beceri ve 4 farklı model genelinde kurtarabildi.”

Bu, SigLeak saldırısından yaklaşık 4 kat daha etkili bir sonuç. Saldırıyı başarıyla gerçekleştirmek için ortalama sadece 32 kurban çağrısı gerekiyor — ve bu süreçte ifşa koruma önlemleri etkin durumdaydı.

Hangi Modeller ve Beceriler Etkileniyor?

Araştırma, 7 farklı beceri ve 4 farklı AI modeli üzerinde test edildi. Sonuçlar endişe verici: Beceri paylaşımı veya ücretli erişim modeli sunan işletmeler doğrudan risk altında.

Eğer bir AI ajan hizmeti, kullanıcılarına özel beceriler sunuyor veya ücretli bir beceri kütüphanesi işletiyorsa, bu beceriler normal kullanım sırasında çalınabilir. Araştırma ekibi, bu güvenlik açığının ciddi ticari sonuçları olabileceği konusunda uyarıyor.

Yapay Zeka Ajan Bellek Yönetimi Kritik Hale Geliyor

Bu saldırı, AI ajan güvenliğinin yalnızca yetkilendirme ve erişim kontrolleriyle sınırlı olmadığını gösteriyor. DAIR.AI’nin bildirdiği bir diğer araştırmaya göre, uzun vadeli ajan görevlerinde en büyük sorun bellek yönetimi.

Bilgi saklama, bağlamsal farkındalık ve bilgiyi doğru zamanda çağırma yetenekleri, ajan sistemlerinin temelinde yatan kritik unsurlar. Bu beceriler çalınabiliyorsa, ajanın tüm çalışma belleği ve yetenek seti risk altında.

Ne Yapılabilir?

Araştırma ekibi, beceri dosyalarını ‘gizleme’nin artık güvenli bir yaklaşım olmadığını belirtiyor. Yapay zeka ajan hizmetleri, beceri erişimini yalnızca ifşa kontrolleriyle değil, davranışsal analiz ve anomali tespiti ile de korumalı.

Geliştiriciler ve işletmeler için kritik uyarı: AI ajan becerilerini ücretli veya özel olarak sunuyorsanız, bu saldırı yöntemine karşı önlem almanız şart. Beceri mimarinızı yeniden değerlendirmeniz ve güvenlik katmanları eklemeniz gerekiyor.

Kaynak: @dair_ai (X/Twitter) — Arxiv: arxiv.org/abs/2608.06733

Yapay zekâya sor

Haberi seçtiğiniz asistanda hazır bir soruyla açın

Şu haberi 3 maddede özetle: https://aihaber.org/daydreaming-saldirisi-ai-ajan-beceri-guvenligi/

Gemini hazır soruyla açılamıyor: soru panonuza kopyalanır, açılan sayfada yapıştırmanız yeterli.

Paylaş
X LinkedIn WhatsApp Telegram Reddit Bluesky Threads E-posta

Bu haber işinize yaradı mı?

Yorumlar 0

Yorum yazın

Karakter: 0/1000

Henüz yorum yok. İlk yorumu siz yazın.

İlgili haberler