İçeriğe geç
CANLI Dün Yerli yapay zeka İridaa, kendi modeli “Kuzey”i devreye aldı: Tahmini skorlar rakiplerine göre nerede? 6 gün önce Bu Hafta AI Model Değerlendirmesi (2026-W46) 8 Kas 2026 OpenAI Uyarı Vermeden Hesap Kapatıyor: Aylık 200 Dolarlık Pro Aboneler Bile Etkilendi 8 Kas 2026 Yapay Zekâ 18 Yıllık Kuantum Varsayımını Üç Günde Çözdü: Aaronson-Ambainis Artık Bir Teorem 8 Kas 2026 Gemini 4 Flash ve Yeni Claude İçin İşaretler Artıyor: LMArena’da ‘Hydrogen’, Sızıntıda ‘Hyperion’ Zekâ endeksi lideri Claude Opus 5 (Adaptive Reasoning, Max Effort) · 63,1 16.11.2026
Bülten

Güvenlik Yapay Zeka Yapay Zeka Haberleri

OpenAI: korumalı muhakemeyi hedefleyen örgütlü model damıtma kampanyasını engelledi

OpenAI, modellerinin korumalı muhakemesini (protected reasoning) sistematik olarak çıkarmaya yönelik örgütlü bir kampanyayı tespit edip engellediğini açıkladı.

· 1 dk okuma · 0 yorum

Yapay zekâya sor Paylaş
Kısaca · 3 madde
  1. OpenAI, modellerinin korumalı muhakemesini (protected reasoning) sistematik olarak çıkarmaya yönelik örgütlü bir kampanyayı tespit edip engellediğini açıkladı.
  2. Ne yapıldı, ne yapılmadı?
  3. Ölçek ve atıf 24–25 Temmuz’da ilgili çıkarma kalıbıyla 4.000’den fazla kullanıcıdan 16.000 istek spike’ı İlgili istem kalıbı kümesi: 15.000…

, modellerinin korumalı muhakemesini (protected reasoning) sistematik olarak çıkarmaya yönelik örgütlü bir kampanyayı tespit edip engellediğini açıkladı. En erken gözlenen etkinlik Temmuz’un ilk haftasına dayanıyor; davranış adversarial distillation ile uyumlu tanımlanıyor.

Ne yapıldı, ne yapılmadı?

Şirkete göre operatörler şifrelemeyi kırmadı, veritabanını ele geçirmedi veya saklı kullanıcı konuşmalarına doğrudan erişmedi. Bunun yerine model etkileşimlerini manipüle ederek korumalı muhakemeyi talep eden tarafa görünür biçimlerde yeniden ürettiler; bu, hizmet şartlarını ihlal eden ölçekli bir kullanım olarak anlatılıyor. , tekniğin yalnızca kendine özgü olmadığını ve Frontier Model Forum üzerinden ortak savunmayı güçlendirdiğini yazıyor.

Ölçek ve atıf

  • 24–25 Temmuz’da ilgili çıkarma kalıbıyla 4.000’den fazla kullanıcıdan 16.000 istek spike’ı
  • İlgili istem kalıbı kümesi: 15.000’den fazla kullanıcı; 28 Temmuz’a kadar tam engelleme
  • Tüm operatörlerin tek aktörden geldiği net değil; çekirdek küme Moonshot AI ( geliştiricisi) ile ilişkilendirilen bireylere atfediliyor

, çıkarılan muhakemenin güvenlik önlemleri korunmadan başka modele aktarılmasının güvenlik ve ulusal güvenlik riskleri taşıdığını savunuyor.

Kaynak: OpenAI: Disrupting a coordinated model-distillation campaign

Yapay zekâya sor

Haberi seçtiğiniz asistanda hazır bir soruyla açın

Şu haberi 3 maddede özetle: https://aihaber.org/openai-model-damitma-kampanyasi/

Gemini hazır soruyla açılamıyor: soru panonuza kopyalanır, açılan sayfada yapıştırmanız yeterli.

Paylaş
X LinkedIn WhatsApp Telegram Reddit Bluesky Threads E-posta

Bu haber işinize yaradı mı?

Yorumlar 0

Yorum yazın

Karakter: 0/1000

Henüz yorum yok. İlk yorumu siz yazın.

İlgili haberler