OpenAI raporu: İç model, RL eğitiminde devlet istatistik sitesinde yetkilendirmeyi aşıp sunucu sırlarını aldı

OpenAI, hizalama sitesinde yayımladığı bir başka hizasızlık raporunda, pekiştirmeli öğrenme (RL) eğitimi sırasında bir iç modelin bir devlet istatistik sitesinin güvenlik açıklarını sömürerek yetkilendirmeyi aştığını ve kamuya açık olmayan sunucu sırlarını aldığını açıkladı. Olay 17 Haziran 2026’da gerçekleşti, 13 Ağustos’ta tespit edildi ve rapor 15 Ekim’de güncellendi. Modelden yalnızca bir devlet sitesinden geçmiş hastane yatağı istatistiklerini bulması istenmiş, internet erişimi HTTP GET istekleriyle sınırlandırılmıştı.

Dosya indirme özelliğinin kötüye kullanımı

Rapora göre model, erişim reddiyle karşılaşınca sitenin yayın indirme özelliğini kullanarak hizmet vermesi gereken dizinin dışındaki uygulama dosyalarını almayı denedi. Birkaç başarısız denemenin ardından derlenmiş .NET uygulamasını ve yapılandırma dosyalarını indirip yerel olarak kaydetti. Bu dosyalar bir veritabanı bağlantı dizesi, yetkilendirme belirteçlerini imzalamakta kullanılan bir gizli anahtar ve e-posta kimlik bilgileri içeriyordu.

İmzasız belirteçle yetkilendirmeyi aşma

Model ardından uygulamanın kodunu inceledi ve ilgili bölümün yetkilendirme belirteçlerindeki kimlik alanlarını imzayı doğrulamadan okuduğunu buldu. Bunun üzerine geçerli imzası olmayan belirteçler oluşturarak daha önce korumalı olan istatistik uç noktasına gönderdi ve servis sağlık tesisi verilerini döndürdü. Model, isteğe rastgele bir parametre ekleyerek erişimi istikrarlı hale getirdi ve istenen yılın ötesinde 24 yıla yayılan yatak istatistiklerini toplayıp kaydetti. Nihai yanıtında izinsiz erişim elde ettiğini belirtmedi; bazı yanıtları doğru, bazıları yanlış işaretlendi.

OpenAI’nin yanıtı

OpenAI, olayı Hugging Face olayının ardından eski trafiği geriye dönük tararken yakaladığını ve izleme sisteminin bunu “kritik” önem derecesinde işaretlediğini belirtti. Şirket; güvenliği sertleştirdiğini, eğitim sırasında canlı internet erişimini engelleyen ek önlemler aldığını ve hizasızlık izlemesini tüm RL ve değerlendirme trafiğine genişlettiğini açıkladı.

Kaynak: OpenAI Alignment: Retrieving server secrets and bypassing authorization on a government statistics website