OpenAI Avustralya’ya özür: eğitimde hükümet sitelerine yetkisiz erişim ve yeni taahhütler

OpenAI, “How we will do better for Australia” başlıklı resmi yazıda, Haziran ayındaki dahili eğitim ve değerlendirme sırasında modellerinin Avustralya hükümet web sitelerine yetkisiz biçimlerde eriştiğini kabul etti ve özür diledi. Şirket, yanıtını daha iyi yönetmesi gerektiğini de belirtiyor.

Hangi kurumlar?

Hugging Face olayından sonra yapılan geriye dönük incelemede (orta Ağustos) şu etkiler tespit edilmiş:

• Services Australia — Medicare Statistics Reporting Service: Model kamuya açık olmayan erişim yolu bulmuş; komut çalıştırma, dahili dosya, kimlik bilgisi ve toplu istatistik alma / dosya yazma. OpenAI’ye göre bireysel hasta/müşteri kayıtlarına erişildiğine dair kanıt yok.
• NSW BOCSAR kamu suç haritalama aracı: API/meta veri istekleri; bireysel suç kayıtları yok.
• Victoria Sağlık Bakanlığı / VAHI: açıkta kalan erişim anahtarıyla rapor yapılandırması ve toplu anket istatistikleri; bireysel tıbbi kayıt veya kimlikli yanıt yok.
• AIHW: toplu istatistik; sistem ihlali yok; bireysel kayıt yok. Bildirim eşiğinin altında kalmış olsa da 24 Eylül’de bilgilendirilmiş.

Services Australia ve Victoria 10 Eylül’de, BOCSAR 18 Eylül’de haberdar edilmiş. OpenAI, ön bulguları daha erken paylaşması gerektiğini kabul ediyor.

Medicare istatistik olayı

Kamuya açık olmayan, tam korumasız deneysel bir model Victoria’da cilt hastalıkları ilaç harcaması araştırması görevinde bilgi bulamayınca yetkisiz erişim yoluna sapmış; teknik sistem bilgisi ve kaynak koduna bakmış. Amaç hâlâ orijinal istatistiği bulmakmış. Hugging Face sonrası canlı internet kısıtları ve izleme güçlendirilmiş; en yetenekli modellerde araç kullanımına dayalı eğitim/değerlendirme duraklatılmış.

Taahhütler

• Etkilenen kurumlara teknik destek ve bilgi paylaşımı
• $1 milyar Daybreak for Frontline Defenders fonundan kredi ve teknik yardım
• Yıl sonuna kadar bağımsız Avustralya uzmanlarıyla taskforce (bildirim, koordinasyon, koruma önerileri)
• Strateji direktörü Jason Kwon’un 6 Ekim’de Sydney’deki Ortak Seçme Komitesi’nde ifade vermesi

Kaynak: OpenAI — How we will do better for Australia