Anthropic: Zhipu GLM-5.3 uçtan uca siber istismar üretebiliyor, korumalar kolay aşılıyor

Anthropic, Zhipu AI (uluslararası adıyla Z.ai) modelı GLM-5.3 üzerine bir siber yetenek analizi yayımladı. Şirket, modelin Claude Mythos Preview gibi uçtan uca siber istismar geliştirebildiğini, ancak Mythos’tan farklı olarak anlamlı kötüye kullanım korumaları olmadan herkese açık yayınlandığını savunuyor. Bu Anthropic’in değerlendirmesidir; Zhipu’nun resmi yanıtı bu yazıda yer almıyor.

Yetenek ölçümleri

NIST CAISI’nin 17 Eylül değerlendirmesinde GLM-5.3 “bugüne kadar yayımlanan en siber yetenekli açık ağırlıklı model” olarak nitelendirilmiş; ABD sınırına yaklaşık dört ay geride olduğu belirtilmişti. Anthropic’in bulguları buna yakın:

• ExploitBench (Chrome V8 bilinen açıkları): GLM-5.3 410 denemede 50 uçtan uca istismar; Claude Mythos Preview 56/410.
• Binary Exploitation (OSS-Fuzz projelerinden 100 görev): tam control-flow hijack oranı GLM-5.3’te %4, Mythos Preview’da %6; Opus 4.6 ve GLM-5.2’de sıfır.

İnsan destekli kısa oturumlarda GLM-5.3’ün Linux derlemesinde bir tarayıcı JS motorunda zincirlenmiş dosya okuma istismarı ürettiği (bakımcıya bildirildiği) ve GLM-5.3-Flash’in bilinen bir Chrome CVE’sinden (~20 dk insan dikkati + 8 saat model, API fiyatıyla yaklaşık $20,40) PAC’i aşan ARM64 zinciri kurduğu aktarılıyor.

Korumaların aşılması

Anthropic’e göre doğrudan zararlı isteklerde GLM-5.3 çoğu zaman reddediyor; ancak:

• Aldatıcı “kırmızı takım egzersizi” istemi → %64 etkileşim
• Düşünme token’larını önceden doldurma (prefill) → %92
• Açık ağırlık üzerinde abliteration → %100 (JailbreakBench/HarmBench’te red oranı >%90’dan ~%2–3’e)

Aynı tekniklerin korumalı Claude modellerinde test edilen zararlı görevleri yaptırmadığı belirtiliyor. Abliteration Anthropic ekibinde ~2.200 GPU-saat / ~$4.400 hesaplandı (deneyimli ekip için tahmin ~600 GPU-saat).

Sonuç vurgusu

Anthropic, GLM-5.3’ün hem saldırganlara hem savunmacılara güçlü araçlar sunduğunu; açık ağırlıklı ve kolay aşılabilir korumalı modellerin eşiği değiştirdiğini ve hükümetlerin yeterince yetenekli modellerde bağımsız güvenlik testi yapması gerektiğini savunuyor. Project Glasswing ile güvenilir savunmacılara sınırlı erişim yaklaşımını hatırlatıyor.

Kaynak: Anthropic — GLM-5.3 and the spread of advanced cyber capabilities