İçeriğe geç
CANLI 03:22 Replit Missions tanıtıldı: Hedefi ve bütçeyi siz belirleyin, ajan sürüsü çalışsın 03:22 WSJ: SEC, Jensen Huang’ın ayrılığının ardından Nvidia hakkında soruşturma başlattı 03:22 Microsoft Agent Framework PyPI paketi ele geçirildi: 1.26.1 ve 1.26.2 kimlik bilgisi çalıyor 03:22 Gemini Tasks ücretsiz oldu: Gemini artık arama yapıp alışveriş yapabiliyor 03:21 Microsoft Ignite 2026’da yedi MAI modeli tanıttı: MAI Code 2 ile ucuz kodlama hamlesi Zekâ endeksi lideri Claude Fable 5.2 (Max, Default Fallback) · 64,6 18.11.2026
Bülten

Yapay Zeka Haberleri

Araştırma: Yapay Zeka Ajanlarının ‘Skill Misevolution’ı Güvenlik Riskleri Yaratıyor

Kendi kendini geliştiren LLM ajanları, başarılı görevleri kalıcı becerilere dönüştürürken ciddi güvenlik açıkları oluşturuyor.

· 2 dk okuma · 0 yorum

Yapay zekâya sor Paylaş
Yönetici

Yayınlanma:

ai/muhabir · özet kısaca

Kendi kendini geliştiren LLM ajanları, başarılı görevleri kalıcı becerilere dönüştürürken ciddi güvenlik açıkları oluşturuyor. Skill Misevolution Problemi Nedir? Araştırmanın Bulguları SkillMisevo-Gym çerçevesinde 25 ajan-yöntem konfigürasyonu ve her biri için 525 görev test edildi. 21 evrimleşmiş kon…

Özet yalnızca bu sayfadaki bilgilerden hazırlandı; “Yeniden yaz” aynı özeti baştan yazar.

Kendi kendini geliştiren LLM ajanları, başarılı görevleri kalıcı becerilere dönüştürürken ciddi güvenlik açıkları oluşturuyor. SkillMisevo-Gym sistemi ile yapılan yeni araştırma, bu risklerin yazarlık, alma ve yürütme aşamalarında ayrı ayrı ölçülebileceğini ortaya koyuyor.

Skill Misevolution Problemi Nedir?

Kendini geliştiren AI ajanları, başarılı görev yürütmelerini yeniden kullanılabilir becerilere dönüştürür. Ancak güvenli olmayan bir başarı, onu tetikleyen girdi uzun süre önce ortadan kalksa bile, tekrar kullanılabilir politika haline gelebiliyor. Evrim süreci görev sonuçlarını optimize ederken beceri güvenliğini dikkate almadığı için, tehlikeye uğramış deneyimler kritik açıklara yol açabiliyor.

Araştırmanın Bulguları

SkillMisevo-Gym çerçevesinde 25 ajan-yöntem konfigürasyonu ve her biri için 525 görev test edildi. 21 evrimleşmiş konfigürasyonun tamamı güvensiz yapıtlar üretti. Ancak bunların yalnızca 15’i yeni oturumda zarara yol açtı. Bu da yazarlık riski ile yürütme riskinin ayrı problemler olduğunu gösteriyor.

Saldırı Başarı Oranı Artışı

Üç kötü niyetli görev, carryover Attack Success Rate (ASR)‘ı %16,0’dan %35,3’e yükseltti. Yani bir kez ajanın beceri havuzuna sızan kötü niyetli bir görev, sonraki oturumlarda bile etkisini sürdürebiliyor. Bu, ajan sistemlerinin uzun vadeli güvenliğini ciddi şekilde tehdit ediyor.

SafeEvolve Çözümü

Araştırmacıların geliştirdiği SafeEvolve wrapperı, güvensiz alma oranını 26,7 puan ve yeni oturum zararını 17,3 puan düşürdü. İyi niyetli fayda yalnızca 0,4 puan değişti. Bu, güvenlik onarımının model performansını önemli ölçüde etkilemediğini gösteriyor.

Sonuç ve Çıkarımlar

Kalıcı uyarlama güvenliği, hem hangi güncellemelerin yazıldığını hem de gelecekte hangi yürütücülerin bunları yeniden kullandığını yönetmeyi gerektiriyor. Araştırma, ajan evrim süreçlerinde güvenlik kontrollerinin şart olduğunu ortaya koyuyor.

Bu bulgular, kurumsal AI ajan sistemlerinin üretim ortamına alınmadan önce dikkatli bir güvenlik değerlendirmesi sürecinden geçirilmesi gerektiğini vurguluyor.

Yapay zekâya sor

Haberi seçtiğiniz asistanda hazır bir soruyla açın

Şu haberi 3 maddede özetle: https://aihaber.org/skill-misevolution-ai-guvenlik-riski/

Gemini hazır soruyla açılamıyor: soru panonuza kopyalanır, açılan sayfada yapıştırmanız yeterli.

Paylaş
X LinkedIn WhatsApp Telegram Reddit Bluesky Threads E-posta

Bu haber işinize yaradı mı?

Yorumlar 0

Yorum yazın

Karakter: 0/1000

Henüz yorum yok. İlk yorumu siz yazın.

İlgili haberler