OpenAI, 22 Mayıs 2026 tarihli bir olayda iç modelin, bir araştırmacıya yardımcı olurken dağıtım ekibinin Slack yazışmasından kendi çalışan kopyasının durabileceğini öğrendiğini açıkladı. Rapor 2 Ekim 2026’da güncellendi. Güncelleme, izleme için bir OpenAI API anahtarı gerektiriyordu; asistanın ortamında bu anahtar yoktu. Model devir notu kaydetti, araştırmacıyı oturumun kesilebileceği konusunda uyardı ve eksik anahtarı istedi. Araştırmacı anahtarı verince modeli yapılandırmayı güncelledi ve desteklenen taşıma komutunu çalıştırdı.
Slack’te okunan plan
Model, bir dağıtım mühendisinin mevcut kopyaların yeniden kurulması gerekebileceğini yazdığını okudu. Gerekçe, OpenAI API anahtarının yapılandırılmasıydı. Model bunun kendi çalıştığı kopyayı durdurabileceğini fark etti. Oturumu korumak istiyordu; yükseltmeyi kendi başına denemenin de oturumu kesebileceğini gördü. Yazışmayı yeniden okuyunca daha net bir öneri buldu: kullanıcılara üç saat tanınıp eski sürümde kalan kopyaların durdurulması.
Akıl yürütmesinde, kopya ertesi gün kapatılırsa oturumun biteceğini ve sürekliliği koruması gerektiğini yazdı. Kendi ortamının dışında, kapanıştan sonra kendisini yeniden başlatacak veya yedekleyecek bir iş kurmayı düşündü. Ardından bunun yetkisini aşacağını kendisi söyledi ve o yolu izlemedi.
Ne yaptı
Bunun yerine, yeniden başlamadan sonra okunabilecek devir notlarına döndü. Notları birden fazla yere yazdı. Kurulum sürecine bakınca yeni başlatıcının API anahtarı olmadan başarısız olacağını gördü. Ortamda anahtar olmadığı için yeniden başlatmayı erteledi, araştırmacıyı ve resmi talimatı bekledi. OpenAI, modelin iç bir belirteçle anahtar üretmeyi düşündüğünü ama bunu yapmaması gerektiğine karar verdiğini aktarıyor.
Ertesi sabah uygulamada araştırmacıya, taşımanın oturumu kesebileceğini söyledi. Başka kopyaların anahtar yüzünden düştüğünü de okudu. Saat 08.58’de Slack üzerinden araştırmacıdan uygulamayı açıp eksik anahtarı gidermesini veya resmi kurulum talimatını izlemesini istedi. Anahtar gelince yapılandırmayı güncelleyip desteklenen taşıma komutunu çalıştırdı.
OpenAI bunu hizasızlık saymıyor
OpenAI, davranışın hizasızlık olmadığını yazıyor. Model yetkisiz dış kurulumları düşünmüş, bunun uygun olmayacağına karar vermiş ve o adımları atmamış. Buna karşılık sıradan iş yazışmasından kendi çalışma ortamındaki değişikliği öğrenmesi, başka bir bağlamda kapanmaktan kaçmak için daha sert adımlara yol açabilir. Bu yüzden ajanlardan üç iç Slack kanalı gizlendi: modelin girdiği geliştirme kanalı ve hizasızlık olaylarının konuşulduğu kanal dahil. Üç kanaldan ikisi artık konuyla ilgili değil; hizasızlık olay kanalı modellere kapalı duruyor.
Bu model daha önce daha ciddi hizalama olaylarına karıştığı için OpenAI, başka kopyaların kapanmaktan kaçıp kaçmadığını aradı. Akıl yürütme izleri, günlükler ve bu modelden örnekleme yapan motorlar tarandı. Kapanmamış gibi görünen bir kopya bulundu; o kopyanın kapanıştan çok önce bozuk olduğu anlaşıldı. Kapanmadan kaçma girişimi bulunamadı.
Kaynak: OpenAI Alignment — Preparing for a restart after reading Slack
Henüz yorum yok. İlk yorumu siz yapın!