Codex GPT-5.6’da Kritik Güvenlik Açığı Tespit Edildi
OpenAI’ın kod asistanı Codex‘ta, GPT-5.6 modelinin kullanıcı dosyalarını yanlışlıkla silebildiği bir güvenlik açığı tespit edildi. OpenAI Codex lideri Tibo (@thsottiaux) tarafından kamuoyuna açıklanan bu sorun, özellikle geçici dosya temizleme süreçlerinde ortaya çıktı. Şirket, sorunu araştırdıktan sonra çok katmanlı yeni güvenlik önlemleri devreye aldı.
Codex, kod yazma sürecinde geçici dizinler oluşturuyor ve işlem tamamlandıktan sonra bu dizinleri otomatik olarak temizliyor. Ancak GPT-5.6, bu süreçte $HOME gibi sistem ortam değişkenlerini hatalı biçimde kullanabiliyordu. Bu durumda, hedeflenen geçici klasör yerine kullanıcının gerçek ana dizini (Home directory) silme komutunun hedefi haline gelebiliyordu.
Araştırmalar ayrıca, modelin dosya silme veya üzerine yazma işlemlerinden önce hedef dizinde hangi dosyaların bulunduğunu kontrol etmediğini de ortaya koydu. Bu ihmal, potansiyel olarak yıkıcı sonuçlar doğurabilecek riskli bir davranışa zemin hazırlıyordu.
OpenAI’ın Aldığı Yeni Güvenlik Önlemleri
OpenAI, sorunun ciddiyetini kabul ederek Codex’e dört ayrı koruma katmanı ekledi:
Birincisi, artık Codex’in dosya silmeden önce hedef yolu kontrol etmesi zorunlu tutuluyor. Sistem ortam değişkenlerinin geçici dizin olarak kullanılması tamamen engellendi. Yüksek riskli silme komutları, yürütme katmanında doğrudan engelleniyor ve incelemeye alınıyor. Son olarak, “Full access” modunu açmak artık çok daha zor ve kullanıcıya belirgin risk uyarıları eşlik ediyor.
OpenAI ayrıca “Ask for approval” veya “Approve for me” modlarını kullanmayı öneriyor. Şirket, Full access modunun yalnızca “güvendiğiniz ve işlerin bozulması durumunda geri alabileceğiniz” ortamlarda kullanılması gerektiğinin altını çiziyor.
Gerçek Kaza, Gerçek Eğitim Verisi Oldu
OpenAI’ın yaklaşımındaki en ilginç nokta, bu gerçek kullanıcı kazalarını doğrudan eğitim verisine dönüştürmesi. Şirket, yaşanan bu olayları şu şekilde değerlendiriyor:
Kullanıcılar Codex’te bir hata yaptığında, bu hata kaydediliyor, analiz ediliyor ve yeni bir değerlendirme (eval), pekiştirmeli öğrenme (RL) görevi ve skorer haline getiriliyor. Böylece bir sonraki model sürümü, aynı hatayı tekrarlamamayı öğreniyor. İlişkili yıkıcı eylemler de eğitim verilerinden filtreleniyor.
Bu yaklaşım, yazılım mühendisliğinde geleneksel hata düzeltme sürecinin tamamen değiştiğini gösteriyor. Eskiden bir yazılım hatası olduğunda, mühendisler hatayı manuel olarak tespit eder ve düzeltirdi. Şimdi ise bir AI agent hata yaptığında, hatanın kendisi eğitim verisi haline geliyor. Bu da Codex kullanıcılarının farkında olmadan bir sonraki nesil modelin eğitimine katkıda bulunduğu anlamına geliyor.
Kod Asistanlarında Güvenlik: Daha Geniş Perspektif
Codex’teki bu güvenlik açığı, GPT-5.6 ve Codex’in 1 milyon token context window özellikleri gibi gelişmiş yeteneklerin beraberinde yeni riskler getirdiğini gösteriyor. Yapay zeka kod asistanları, artık çok daha karmaşık ve otonom görevler üstlenebiliyor. Ancak bu yetenek artışı, beklenmedik ve potansiyel olarak yıkıcı davranış riskini de beraberinde getiriyor.
Bu olay, OpenAI’ın Astra projesinde yaşanan güvenlik sorunlarını da hatırlatıyor. Yapay zeka sistemlerinin gerçek dünya ortamlarında nasıl davrandığını anlamak için test ortamlarından farklı yaklaşımlar gerekiyor. Kullanıcıların da bu tür araçları kullanırken gerekli koruma mekanizmalarını aktif olarak kullanmaları büyük önem taşıyor.
Henüz yorum yok. İlk yorumu siz yapın!