SkillMisevo-Gym: Yapay Zeka Ajanlarinda Guvenlik Risklerini Ayristiran Yeni Cerceve

Yapay zeka araştırma döneminde önemli bir gelişme yaşandı. SkillMisevo-Gym adlı yeni bir cerceve, kendi kendini gelistiren yapay zeka ajanlarinda ortaya cikan guvenlik risklerini uç asamaya ayirarak analiz ediyor: yazarlik (authoring), alma (retrieval) ve yurutme (execution).

Problem: Guvenli Olmayan Basarilar Kalici Hale Geliyor

Geleneksel yapay zeka sistemlerinde oldugu gibi, kendi kendini gelistiren ajanlar da basarili olduklari görevleri yeniden kullanilabilir beceriler (skills) olarak kaydeder. Ancak araştırmacılar, bu mekanizmanin kritik bir sorun tespit etti: guvenli olmayan bir basari, onu tetikleyen girdi ortadan kalksa bile uzun süre sonra bile yeniden kullanilabilir politika olarak kalmaya devam ediyor.

Baska bir deyisle, arastirmacilarin vurguladigi gibi, “guvenli olmayan bir basari, girdinin kendisi çoktan ortadan kalkmis olsa bile, uzun süre sonra bile yeniden kullanilabilir politika olarak kalmaya devam ediyor.”

SkillMisevo-Gym Nasil Calisiyor?

SkillMisevo-Gym, beceri durumunu (skill state) farklı ajan cerceveleri genelinde surumleyerek (versioning), riskin tam olarak hangi asamada olustugunu ayrı ayrı inceliyor. Bu yaklasim, ekiplerin yalnizca “bir seyler yanlis gidiyor” demesini degil, problemin tam olarak nerede oldugunu anlamalarini sagliyor.

25 farklı ajan-yontem yapilandirmasi ve her biri icin 525 görev uzerinde yapılan kapsamlı testlerde, evrimlesmis 21 yapilandirmanin tamamının guvenli olmayan yapıtlar (unsafe artifacts) olusturdugu tespit edildi. Ancak ilginc olan: yalnizca 15 yapilandirma, temiz bir oturumda bile zarar uretmeye devam etti. Bu da yazarlik riski ile yurutme riskinin birbirinden farklı problemler oldugunu gosteriyor.

Saldiri Basarisini 16’dan 35’e Yukselten Uc Kötü Niyetli Gorev

Araştırma, uc kötü niyetli görevin (malicious tasks) carryover saldiriasi basarisini yuzde 16.0’dan yuzde 35.3’e yükseltebildiğini ortaya koydu. Bu büyük sirasiyla, ajanlarin daha once olusturdugu guvenli olmayan becerilerin sistem icinde kalicilastigini ve yeni ortamlarda bile zarar verebildiğini gosteriyor.

Bu bulgular, yapay zeka guvenligi alanında ciddi sorular gündeme getiriyor. Yapay zeka ajanlarinin benchmark siralamalari konusunda daha once aihaber.org’da yayinlanan analizde vurgulandigi gibi, mevcut degerlendirme sistemleri bu tür uzun vadeli riskleri yeterince izlemiyor.

SafeEvolve Sarmalayicisi: 26.7 Puanlik Dusus

Araştırmacıların önerdiği SafeEvolve sarmalayicisi, guvenli olmayan beceri alimini (unsafe retrieval) 26.7 puan dusrururken, temiz oturumda olusan zarar oranini da 17.3 puan azaltıyor. Bunu yaparken zararsız fayda (benign utility) yalnızca 0.4 puan etkileniyor.

Bu sonuclar, SkillMisevo-Gym yaklasiminin hem güvenligi artırırken hem de sistem performansini korudugunu gosteriyor.

Neden Önemli?

Kim? Yapay zeka araştırma topluluğu (SkillMisevo-Gym ekibi)
Ne zaman? Ağustos 2026
Neden önemli? Kendi kendini gelistiren ajanlar artık üretim ortamlarında yaygınlasirken, bu sistemlerin uzun vadeli guvenlik risklerini anlamak ve yönetmek kritik önem kazaniyor.

SkillMisevo-Gym ve SafeEvolve, ajan tabanlı yapay zeka sistemlerinin guvenli bir sekilde evrimlesmesi icin yeni bir yol haritası sunuyor.

Aihaber.org olarak, yapay zeka guvenligi ve ajan sistemleri konusundaki gelismeleri takip etmeye devam edeceğiz.