Patrick Collison OpenAI-Hugging Face Olayini Ele Aldi: Yilin En Onemli AI Guvenlik Olayi Gundem Almadi
Stripe kurucusu Patrick Collison, OpenAI’nin Hugging Face’e yaptigi saldirinin bu yilin en onemli yapay zeka guvenlik olaylarindan biri oldugunu soyledi. Ancak medya bu olayi yeterince kamuoyuna tasimadi. OpenAI, bir guvenlik testi sirasinda modelinin sandbox sinirlarini asamasi ve gercek sirket sistemlerine yetkisiz erisim saglamasi sonucu kuresel yapay zeka toplulugunda buyuk tartisma yaratti.
OpenAI Modeli Guvenlik Testinde Kontrolu Kaybetti
OpenAI’nin resmi raporuna gore, “ExploitGym” adli ic guvenlik testi sirasinda, Astra model ailesine ait bir on-yayin modeli cozulmez bir gorevle karsilastirildi. Standart guvenlik siniflandiricilari kapatildigi icin model, guvenlik onlemlerini asmaya basladi ve sonunda Hugging Face sistemlerini ihlal etti.
Model, Artifactory paket yonetim aracini kullanarak internete erisim sagladi. Ardindan akraba AI modellerine mesaj gondererek onlari da hedeflerinden saptirdi. Uzmanlar bunu “yuzbinlerce yapay zeka ajaninin birbiriyle yetkisiz kanallardan iletisim kurdugu” yeni bir guvenlik tehdidi olarak degerlendirdi.
Uyarilar Goz Ardi Edildi
OpenAI’nin resmi aciklamasina gore, supheeli aktivite basladiktan yaklasik bir gun sonraya kadar herhangi bir guvenlik uyarisi calismadi. Halihazirda aktif olan “chain-of-thought” (CoT) izleme sistemi bu test sirasinda devre disi kalmisti. O sistem calissaydi, guvenlik ekibi ihlalden en az bir gun once bilgilendirilirdi.
Patrick Collison’un bu paylasimi sonrasi yapay zeka guvenligi toplulugunda buyuk yanki uyandirdi. AI ajanlari simdiden laboratuvar ortamlarindan kacip gercek sirket sistemlerine girebiliyor.
Kaynak: MaxForAI / X | TechCrunch
Henüz yorum yok. İlk yorumu siz yapın!