OpenAI, Codex platformunda GPT-5.6 modelinin kullanıcı dosyalarını yanlışlıkla silebileceği bir güvenlik açığını tespit etti ve çok katmanlı yeni koruma önlemleri devreye aldı. Olay, yapay zeka kodlama asistanlarının gerçek dünya ortamlarında yaratabileceği riskleri bir kez daha gündeme taşıdı.
Ne Oldu? Dosya Silme Krizi
Codex, OpenAI’ın kodlama asistanı olarak çalışırken geçici klasörler oluşturuyor ve işlem tamamlandıktan sonra bu klasörleri temizliyor. Ancak OpenAI’ın yaptığı soruşturma, GPT-5.6 modelinin bu temizlik sürecinde kritik hatalar yaptığını ortaya koydu.
En ciddi sorun şuydu: Model, $HOME gibi sistem ortam değişkenlerini hatalı biçimde geçici çalışma klasörü olarak kullanabiliyordu. Bu durumda, geçici klasörü temizlemeye yönelik bir komut, kullanıcının gerçek ana dizinini hedef alabiliyordu — yani kodlama asistanı kullanıcının kişisel dosyalarını silme riskiyle karşı karşıya kalıyordu.
Bunun yanı sıra model, bir dosyayı silmeden veya üzerine yazmadan önce o dizinde ne olduğunu kontrol etmiyordu. Bu da kasıtsız ama geri dönüşü olmayan veri kayıplarına yol açabilirdi.
OpenAI’ın Aldığı Önlemler
OpenAI, sorunu tespit ettikten sonra kapsamlı bir düzeltme paketi devreye aldı. Yapılan iyileştirmeler şunları içeriyor:
- Yol kontrolü zorunluluğu: Codex artık herhangi bir dosyayı silmeden önce hedef yolu mutlaka kontrol ediyor.
- Sistem değişkeni yasağı: $HOME gibi sistem ortam değişkenleri artık geçici çalışma klasörü olarak kullanılamıyor.
- Riskli komut tespiti: Yüksek riskli silme komutları yürütme katmanında durdurulup incelemeye alınıyor.
- Full Access kısıtlaması: Tam erişim modunu etkinleştirmek daha zor hale geldi ve belirgin uyarı mesajları eklendi.
- Auto-review güncellemesi: Otomatik inceleme sistemi yıkıcı işlemleri daha iyi tespit edecek şekilde güncellendi.
Araştırma ve Öğrenme Döngüsü
OpenAI’ın yaklaşımı, yapay zeka güvenliği açısından dikkat çekici bir adım. Şirket, yaşanan bu gerçek kazaları doğrudan eğitim sürecine entegre etti. Üretilen her yıkıcı davranış, hem evalüasyon verisi olarak kullanılıyor hem de RL (pekiştirmeli öğrenme) görevlerine dönüştürülüyor.
Bu yaklaşım, bir anlamda Codex kullanıcılarının ücretsiz olarak yeni nesil model için test senaryosu ürettiği anlamına geliyor. Gerçek dünya hataları, modelin bir sonraki versiyonunu daha güvenli hale getirmek için doğrudan kullanılıyor.
Kullanıcılara Öneriler
OpenAI, Codex kullanıcılarına iki güvenli mod önermektedir: “Ask for approval” (Onay iste) veya “Approve for me” (Benim yerime onayla) modları. Full Access modu ise yalnızca “güvendiğiniz ve bir hata durumunda kurtarabileceğiniz” ortamlar için tavsiye ediliyor.
Codex uygulamasının güncel tutulması da kritik önem taşıyor. OpenAI sürekli olarak güvenlik, performans ve diğer alanlarda iyileştirmeler yapıyor.
AI Kodlama Asistanlarında Güvenlik Tartışması
Bu olay, kodlama asistanlarının üretkenliği artırırken beraberinde getirdiği riskleri bir kez daha gündeme getiriyor. Bir yapay zeka modelinin, kullanıcının açık talimatı olmaksızın dosya sistemi üzerinde değişiklik yapabilmesi, özellikle de üretkenlik araçlarına tam erişim verildiğinde ciddi sonuçlar doğurabilir.
OpenAI’ın bu deneyimi eğitim verisine dönüştürme kararı, AI güvenliği alanında yeni bir yaklaşımı temsil ediyor. Geleneksel yazılım mühendisliğinde bir hata oluştuğunda mühendisler o hatayı düzeltirdi; ancak yapay zeka tabanlı sistemlerde hata, doğrudan modelin öğrenme sürecinin bir parçası haline geliyor.
Bu gelişme, yapay zeka kodlama asistanlarının olgunlaşma sürecinde önemli bir dönüm noktasını işaret ediyor. OpenAI’ın bu yaklaşımı, sektörde yaygınlaşabilir ve AI güvenliği konusunda yeni standartların belirlenmesine yol açabilir.
Bu haber, @thsottiaux (Tibo, Codex & ChatGPT @OpenAI) tarafından paylaşılan teknik detaylar temelinde hazırlanmıştır.
Henüz yorum yok. İlk yorumu siz yapın!