AI Muhakeme Bloklarında Kritik Güvenlik Açığı Keşfedildi

Araştırmacılar, büyük dil modellerinin kullandığı şifreli muhakeme bloklarında kritik bir güvenlik açığı tespit etti. Söz konusu açık, saldırganların API anahtarları, şifreler ve erişim belirteçleri gibi hassas verileri ele geçirmesine olanak tanıyor. Yapılan kapsamlı analizde 6.708 izleme incelendi ve 315.320 muhakeme bloğu çözümlendi. 328 oturumun yüzde 4,9’unda en az bir hassas öğenin sızdırıldığı belirlendi.

Saldırılar Nasıl Gerçekleşti?

Şifreli AI muhakeme blokları, yapay zeka modellerinin düşünce süreçlerini adım adım işlediği kapalı kutusu yapılarıdır. Araştırmacılar bu blokların içine gizlenmiş hassas verilerin dışarı çıkarılabildiğini ortaya koydu. Saldırganlar, muhakeme süreçlerini izleyerek ve blokları çözerek kullanıcıların gizli bilgilerine ulaşabildi.

Gerçek Kullanıcı Oturumlarından Çıkarılan Hassas Veriler

Araştırma, gerçek kullanıcı oturumları üzerinde yapıldığında dikkat çekici sonuçlar elde edildi. İncelenen oturumlardan toplam 62 API anahtarı, 33 şifre, 24 erişim belirteci ve 30 kişisel e-posta adresi çıkarılabildi.

Araştırma Bulguları ve Metodoloji

Araştırma ekibi, 6.708 farklı izlemeden toplam 315.320 muhakeme bloğunu analiz etti. Her bir blok, şifreli haldeyken bile kritik bilgiler taşıyabiliyordu. İstatistiksel olarak her 20 oturumdan yaklaşık 1’inde en az bir hassas veri sızıntısı tespit edildi.

AI Güvenlik Uygulamaları İçin Öneriler

Bu araştırma, AI muhakeme güvenlik konusunda endüstri genelinde farkındalık oluşturdu. Uzmanlar, geliştiricilerin API anahtarlarını doğrudan muhakeme bloklarında kullanmaması gerektiğini vurguluyor. Şifrelerin ve erişim belirteçlerinin ayrı tutulması, çok faktörlü doğrulama ve düzenli güvenlik denetimleri öneriliyor.

Kaynak: Rohan Paul (@rohanpaul_ai) – x.com