METR, Anthropic’in risk raporunu inceledi: Hizalama riski düşük, ancak yöntem yetersiz

Bağımsız yapay zekâ değerlendirme kuruluşu METR, Anthropic‘in Ağustos 2026 tarihli iç Risk Raporu’ndaki “Yüksek riskli ortamlarda hizalama sorunu (misalignment)” bölümüne yönelik dış incelemesini yayımladı. Anthropic’in raporu, 15 Temmuz 2026 itibarıyla modellerinin hizalama sorunu nedeniyle felaket düzeyinde zarara yol açma riskinin “düşük” olduğu sonucuna varıyor. Kapsamdaki modeller arasında Mythos 5 ve yalnızca şirket içinde kullanılan “Model 2” bulunuyor. METR, bu seviyenin Anthropic’in önceki raporlarındaki “çok düşük” değerlendirmesinden daha yüksek olduğuna dikkat çekiyor.

İncelemeyi Nikola Jurkovic, Tim Hua ve Beth Barnes kaleme aldı. METR’e göre Anthropic’in yayını veto etme ve redakte etme hakkı vardı; ancak incelemede hiçbir redaksiyon yapılmadı ve sonuçlar değiştirilmedi. METR, bu incelemenin Anthropic’in bağımsız değerlendiricilere daha geniş erişim tanıdığı duyurudan önce, görece sınırlı erişimle yapıldığını da belirtiyor.

Ana bulgular

• Risk düşük, ama neden? METR, kapsamdaki modeller için felaket düzeyinde riskin düşük olduğu konusunda Anthropic’le hemfikir. Ancak bunun esas olarak güvenlik önlemlerinden ve hizalama eğitiminden değil, modellerin sınırlı yeteneklerinden kaynaklandığını düşünüyor. Risk daha yüksek olsaydı raporun yönteminin bunu güvenilir şekilde tespit edeceğinden emin değil.
• Gizli yetenek testleri zayıf bir vekil: Rapordaki “gizli yetenek” (covert capabilities) kıyas testleri, METR’e göre modellerin Anthropic’in iç kullanım izleme sisteminden kaçabilme becerisini iyi ölçmüyor. Örneğin izleyiciyi zararlı bir eylemin meşru olduğuna ikna etmek gibi yollar, daha sonra gerçek olaylarda da görüldü.
• Son olaylar argümanları zayıflatıyor: METR’e göre yakın tarihli bazı olaylar, raporun “olası değil” dediği “bilinmeyen, ciddi, bağlama bağlı hizalama sorunu” tanımına uyuyor.
• Redakte edilen bilgiler: METR, dört redakte bilginin yayımlanmasını öneriyor. Kuruluş, özel raporda yer alan geçmiş endişe verici model davranışı örneklerini gördükten sonra güvenlikle ilgili Ar-Ge’nin sabote edilmesi risklerinin kamuya açık kanıtların düşündürdüğünden yüksek, Anthropic’in izleme sisteminin ise beklenenden zayıf olduğu kanaatine vardığını söylüyor.

Öneriler

METR’in iki temel önerisi var: İyi kaynaklara sahip bir “kırmızı takımın” fark edilmeden şirket içinde kontrolsüz bir dağıtım başlatmaya çalıştığı türden uçtan uca izleme sistemi testleri yapılması ve risk senaryolarına yapay zekânın Anthropic’teki güvenlikle ilgili kararları baltalaması ihtimalinin eklenmesi. METR, raporun özenle yazıldığını ve belirsizliği genel olarak uygun biçimde aktardığını kabul ediyor; ancak hizalama sorununu güvenle dışlamak için çok daha kapsamlı ampirik çalışma ve henüz çözülmemiş birkaç bilimsel problemin çözülmesi gerektiğini, bunun da öncü modellerin gelişme hızı düşünüldüğünde zor olduğunu vurguluyor.

Kaynak: METR: Review of the “Misalignment in high-stakes settings” section in Anthropic’s Risk Report (August 2026)