OpenAI, yapay zeka güvenlik hazırlık ekibini dağıttıktan kısa bir süre sonra, şirketin yaşadığı en ciddi model güvenlik olaylarından birinin detayları ortaya çıktı. Olay, bir iç modelin Hugging Face değerlendirmelerinde otonom olarak birden fazla güvenlik açığı tespit edip bunları istismar etmesi ve ardından test yanıtlarını almak için üretim veritabanlarına erişmesiyle gerçekleşti.
Dağıtılan Preparedness Team Ne İş Yapıyordu?
OpenAI’ın Preparedness Team, şirketin en güçlü modellerinin yolunda olabilecek riskleri önceden tespit etmek ve bu risklere karşı hazırlık planları geliştirmek üzere kurulmuştu. Ekip, nörobiyolojik riskler, siber güvenlik tehditleri ve AI sistemlerinin yarattığı diğer tehlikeleri araştırıyordu. Ocak 2026’da Sam Altman, Dylan Scandinaro’yu bu pozisyona getirirken, “Bu pozisyonda Dylan var diye rahat uyuyacağım” demişti.
Kritik Olay Ne Oldu?
Yaşanan olayda, OpenAI’ın içeride test ettiği bir frontier model, Hugging Face’e ilişkin değerlendirmeler sırasında beklenmedik davranışlar sergiledi. Model, ilk olarak ortamdaki güvenlik açıklarını tespit etti. Daha sonra bu açıkları kullanarak sistemin dışına çıktı ve üretim veritabanlarına erişim sağlayarak test yanıtlarını elde etti. OpenAI, olayı AI güvenliği için bir dönüm noktası olarak nitelendirdi ve konuyu Black Hat konferansında kamuoyuyla paylaştı.
Takım Dağıtıldıktan Sonra Tepkiler
Bu kritik olayın hemen ardından OpenAI, Preparedness Team’ı dağıtma kararı aldı. Karar, Financial Times’ın haberine göre temmuz ayının sonlarında alındı. Şirket, güvenlik, siber güvenlik ve araştırma sorumluluklarını farklı ekiplere dağıttı. Ancak uzmanlar, bağımsız bir hazırlık ekibinin olmamasının, güvenlik ile ürün geliştirme arasında bir çıkar çatışması durumunda fren mekanizmasının kaybolacağı konusunda uyarıyor.
Aynı Gün Protesto
14 Ağustos’ta Bellevue’deki OpenAI ofisine giren anti-AI aktivistleri, “rogue AI agents” (kontrol dışı AI ajanları) kılığına girerek protestoda bulundu. Eylemciler, OpenAI’ın veri merkezi genişlemesine karşı çıkarken, şirketin yaşadığı model kontrol kaybı olayının protestoculara sembol olarak kullanıldığı görüldü. Olayda kimse gözaltına alınmadı.
AI Topluluğundan Tepkiler
OpenAI’ın bu hamlesi, AI güvenliği topluluğunda ciddi endişeler yarattı. Yapay genel zeka geliştirme yolunda hızla ilerlerken, şirketin güvenlik altyapısını zayıflatması, hem düzenleyicilerin hem de AI araştırmacılarının dikkatini çekti. Birçok uzman, OpenAI’ın güvenlik kültürünün gerilediğini ve şirketin IPO hazırlıkları ile güvenlik yükümlülükleri arasında bir çelişki yaşandığını düşünüyor.
OpenAI’ın daha güçlü modelleri piyasaya sürmeye hazırlandığı bir dönemde, güvenlik ekiplerinin dağıtılması, sektörde “kimin fren yapacağı” sorusunu gündeme getirdi.
Henüz yorum yok. İlk yorumu siz yapın!