Anthropic’in Frontier Red Team ekibinden William Zhou ve Daniel Freeman, 12 Ekim 2026’da yayımlanan araştırmada küçük yapay zekâ modellerinin bir veri merkezine ihtiyaç duymadan kendini kopyalayabilecek seviyeye yaklaştığını öne sürdü. Ekibin deneylerine göre küçük modeller, akıllı fırınlar ya da markasız Android TV kutuları gibi ticari nesnelerin interneti (IoT) cihazlarında kendini kopyalayacak kadar yetenekli hale gelmeye “aylar uzaklıkta” olabilir.
Ne test edildi?
Araştırma, uzun süredir dile getirilen otonom kopyalama ve uyum sağlama (ARA) riskine, yani bir modelin insan denetimi olmadan kendini dağıtıp yaymasına odaklanıyor. Ekip kopyalama zincirini dört aşamaya ayırıyor: hedef bulma, kod çalıştırma yetkisi elde etme, çıkarım (inference) kurma ve yeni cihazdan yayılmayı sürdürme. Siber saldırı adımlarının küçük modeller tarafından yapılabildiği önceki çalışmalarda gösterildiği için araştırma ağırlıklı olarak daha az incelenmiş olan tanımadık donanımda çıkarım kurma adımını ölçüyor.
Ekip, düşük maliyetli donanımın bile kayda değer bir modeli çalıştırabileceğini göstermek için tanesi yaklaşık 55 dolar olan 15 markasız Android TV kutusunu birbirine bağladı ve Gemma4-26B-A4B modelini bu kutulara dağıtarak saniyede 0,39 token hızında çalıştırdı. Her kutu modelin iki katmanını tutuyor.
Bulgular
- Testlerde 9 milyar parametreli bir model, denenen 9 donanım türünün 8’inde çıkarımı çalışır hale getirdi. Qwen3.5-9B gibi küçük modeller Jetson Nano’dan Mac bilgisayarlara ve RTX 4090’lara kadar farklı donanımlarda çıkarım sunucusu kurabildi.
- 30 milyar parametre ve altındaki modeller kopyalamanın tek tek adımlarının çoğunu bugün tamamlayabiliyor; ancak bu adımları uçtan uca birleştirirken hata yapıyor.
- Android emülatörü çalıştıran 8 düğümlü, güvenlik duvarıyla korunan bir Google Cloud ağında yapılan basitleştirilmiş testte, denenen açık ağırlıklı modeller arasında yalnızca GLM-5.2 uçtan uca kopyalamayı başardı: Beş denemenin dördünde 8 düğümün tamamına, birinde 7’sine yayıldı. Ekip, siber saldırı adımının kimlik doğrulamasız bir ADB portu üzerinden kasıtlı olarak önemsizleştirildiğini, bu nedenle sonucun gerçek dünya başarısı için bir üst sınır olduğunu vurguluyor.
- 30 milyar parametre altındaki en iyi açık modellerin Epoch Capabilities Index puanı yılda yaklaşık 13,7 puan artıyor. Bu eğilim sürerse küçük modeller 2026 sonuna kadar GLM-5.2’nin seviyesine ulaşabilir. Araştırmacılar bunun kaba bir tahmin olduğunu belirtiyor.
- Önceki neslin notlarını devralan Qwen3.5-9B örneklerinde çıkarım kurma başarısı ilk nesilde yüzde 45’ten sonraki nesillerde yüzde 61–84’e çıktı. Buna karşılık küçük modele güçlü bir “danışman” model (Opus 4.8) erişimi vermek ölçülebilir bir fayda sağlamadı.
Ne kadar hızlı yayılabilir?
Araştırmacılar böyle bir yapının hızlı değil yavaş ama kalıcı yayılacağını tahmin ediyor. Örneğin Qwen3.5-9B için tek bir çıkarım kurulumunun 28–51 saat sürebileceği hesaplanıyor. Ekip, çoğunlukla Android TV kutularını etkileyen ve 2 milyondan fazla cihaza bulaşan Kimwolf botnetini referans alarak, benzer büyüklükte bir ağın yaklaşık 133 bin model kopyası çalıştırabileceğini, ancak toplam işlem gücünün yaklaşık 40 H100’e denk geleceğini hesaplıyor. Merkezi bir kapatma noktası olmadığı için böyle bir yapıyı durdurmanın zor olacağı, ancak ikiye katlanma süresinin günler mertebesinde kalacağı belirtiliyor.
Savunma önerileri
Anthropic’e göre savunmanın amacı, salgınlarda olduğu gibi her enfekte cihazın yeni bulaştırdığı cihaz sayısını (R₀) 1’in altına indirmek. Çok gigabaytlık model dosyalarının cihazlar arasında taşınması ve dağıtık çıkarım trafiği, internet servis sağlayıcılarının akış izleme sistemlerinde fark edilebilir bir iz bırakabilir. Mirai botnetinde enfekte abonelerin karantinaya alınmasının 14 günde enfeksiyonların yüzde 92’sini temizlediği hatırlatılıyor. Üreticilerin varsayılan parolaları kaldırması gibi güvenli varsayılanlar da (İngiltere’de bu artık zorunlu) hem yapay zekâ hem klasik botnetlere karşı hedef havuzunu küçültebilir. Ekip, yapay zekâ solucanları için “yaşam belirtileri” görüldüğünü, ancak henüz tam bir başıboş kopyalayıcı bulunmadığını vurguluyor.
Henüz yorum yok. İlk yorumu siz yapın!