Anthropic, 12 Ekim 2026 tarihli araştırma yazısında Claude’a yönelik damıtma saldırılarına karşı yeni savunmalarını açıkladı. Erken kanıtlara göre bu yöntemler damıtıcıların topladığı veri miktarını yaklaşık yüzde 90 ile 99 arasında azalttı; platformdaki muhakeme (reasoning) token’ı çıkarımı önceki döneme göre 10 ile 100 kat düştü.
Neden önemli?
Şirket, damıtmayı bir modelin yeteneklerinin izinsiz, endüstriyel ölçekte kopyalanması olarak tanımlıyor. İki kaygı öne çıkıyor: damıtılmış modellerin orantılı güvenlik önlemleri olmadan yayımlanması (örnek olarak Zhipu’nun GLM-5.3 siber yetenekleri) ve yeteneklerin yabancı askerî / istihbarat sistemlerine entegre edilmesi riski. Anthropic, Moonshot Kimi modellerine giden isteklerin Claude’a yönlendirildiği bir damıtma vakasını ve PLA bağlantılı olduğu düşünülen bir CCTV analizi isteğini önceki raporlarına atıfla hatırlatıyor.
Yeni yöntemler
Üç hat anlatılıyor: (1) Preserved thinking — 31 Ağustos 2026 ve sonrası yeni API hesaplarında Claude’un önceki bağlamının düzenlenmesini engellemek, muhakemenin yalnızca üreten organizasyona açık olması ve zayıf korumalı eski modellere okunmaması; (2) anayasal sınıflandırıcı araştırmasındaki gibi iki aşamalı sınıflandırıcı ile çıkarım girişimlerini engellemek (yanlış pozitif oranı yüzde 0,1’in altında iddiası); (3) tekrarlayan girişimlerde kota sıkılaştırma, hesap yasaklama ve 24 Eylül’den itibaren belirli alanlarda yanıt öncesi engellenen isteklerin ücretlendirilmesi. Sonnet 5.5, Opus 5/5.5 ve Fable 5/5.1 gibi modellerde sınıflandırıcının Eylül raporundaki teknikleri yakaladığı belirtiliyor.
Kaynak: Anthropic: Strengthening defenses against distillation attacks
Henüz yorum yok. İlk yorumu siz yapın!