İçeriğe geç
CANLI Dün Yerli yapay zeka İridaa, kendi modeli “Kuzey”i devreye aldı: Tahmini skorlar rakiplerine göre nerede? 6 gün önce Bu Hafta AI Model Değerlendirmesi (2026-W46) 8 Kas 2026 OpenAI Uyarı Vermeden Hesap Kapatıyor: Aylık 200 Dolarlık Pro Aboneler Bile Etkilendi 8 Kas 2026 Yapay Zekâ 18 Yıllık Kuantum Varsayımını Üç Günde Çözdü: Aaronson-Ambainis Artık Bir Teorem 8 Kas 2026 Gemini 4 Flash ve Yeni Claude İçin İşaretler Artıyor: LMArena’da ‘Hydrogen’, Sızıntıda ‘Hyperion’ Zekâ endeksi lideri Claude Opus 5 (Adaptive Reasoning, Max Effort) · 63,1 16.11.2026
Bülten

Yapay Zeka Haberleri

Araştırmacılar OpenAI, Anthropic ve Google Modellerinden Gizli Düşünce Zincirlerini Çıkarmayı Başardı

Yapay zeka araştırma dünyasında kritik bir keşif gün yüzüne çıktı.

· 2 dk okuma · 0 yorum

Yapay zekâya sor Paylaş

Yapay zeka araştırma dünyasında kritik bir keşif gün yüzüne çıktı. Araştırmacılar, , ve ‘ın kapalı kaynak modellerinden gizli düşünce zincirlerini (Chain-of-Thought / CoT) sistematik olarak çıkarmanın bir yolunu buldu. Bu keşif, büyük yapay zeka şirketlerinin düşünce süreçlerini korumak için kullandığı temel güvenlik katmanını aşıyor.

Gizli Düşünce Zinciri Nedir?

GPT, Claude ve Gemini gibi ileri düzey yapay zeka modelleri, sonuca ulaşmadan önce kapsamlı bir düşünce süreci (reasoning) izliyor. Şirketler bu düşünce zincirlerini korumak istiyor çünkü nihai cevap kopyalanabilir ancak gerçek değer, modelin “nasıl düşündüğünde” yatıyor. Bir kez tam CoT elde edilirse, model doğrudan eğitim verisi olarak kullanılabilir.

Güvenlik Açığı: Şifreli Reasoning Uyumsuzluğu

Birçok API sağlayıcısı, modelin reasoning verilerini şifreleyerek döndürüyor. Kullanıcı bu içeriği göremiyor ancak bir sonraki istekte şifreli veriyi modele geri göndererek düşünce sürecini sürdürmesini sağlayabiliyor.

Araştırmacılar, bu şifreli düşünce zincirlerinin aynı sağlayıcının farklı kullanıcıları, oturumları ve hatta farklı modelleri arasında uyumlu olduğunu keşfetti. Saldırı yöntemi şu şekilde işliyor:

  • En güçlü modeli düşünmeye zorla
  • Şifreli CoT verisini al
  • Aynı şirketin daha zayıf ve kolayca jailbreak edilebilir modeline gönder
  • Küçük modelin veriyi “okumasını” sağla

Örneğin ‘in gizli düşünce zinciri, Haiku modeline verilerek çözülebiliyor. Opus’un kendisi kırılmasa bile küçük kardeşi üzerinden düşünceleri ifşa edilebiliyor.

Üç Büyük Platformda Doğrulandı

Araştırma, Claude, GPT ve Gemini API’lerinin üçünde de gizli reasoning verilerinin çıkarılabildiğini doğruladı. Bu, şirketlerin CoT damıtmayı önlemek için kullandığı korumayı doğrudan atlatmış oluyor.

Sonuçları ve Etkileri

Gizli düşünce zincirlerinin çalınması, model davranışını analiz etmek ve yapay zeka güvenliğini anlamak açısından değerli bir araştırma kaynağı oluşturuyor. Öte yandan bu durum, modellerin nasıl karar verdiklerinin şeffaflığı konusunda önemli soruları beraberinde getiriyor.

Kaynak: @kotekjedi_ml · @MaxForAI

Yapay zekâya sor

Haberi seçtiğiniz asistanda hazır bir soruyla açın

Şu haberi 3 maddede özetle: https://aihaber.org/gizli-dusunce-zinciri-extraction-sistemi-aciklandi/

Gemini hazır soruyla açılamıyor: soru panonuza kopyalanır, açılan sayfada yapıştırmanız yeterli.

Paylaş
X LinkedIn WhatsApp Telegram Reddit Bluesky Threads E-posta

Bu haber işinize yaradı mı?

Yorumlar 0

Yorum yazın

Karakter: 0/1000

Henüz yorum yok. İlk yorumu siz yazın.

İlgili haberler