İçeriğe geç
CANLI Dün Yerli yapay zeka İridaa, kendi modeli “Kuzey”i devreye aldı: Tahmini skorlar rakiplerine göre nerede? 9 Kas 2026 Bu Hafta AI Model Değerlendirmesi (2026-W46) 8 Kas 2026 OpenAI Uyarı Vermeden Hesap Kapatıyor: Aylık 200 Dolarlık Pro Aboneler Bile Etkilendi 8 Kas 2026 Yapay Zekâ 18 Yıllık Kuantum Varsayımını Üç Günde Çözdü: Aaronson-Ambainis Artık Bir Teorem 8 Kas 2026 Gemini 4 Flash ve Yeni Claude İçin İşaretler Artıyor: LMArena’da ‘Hydrogen’, Sızıntıda ‘Hyperion’ Zekâ endeksi lideri Claude Opus 5 (Adaptive Reasoning, Max Effort) · 63,1 16.11.2026
Bülten

Yapay Zeka Haberleri

Stanford CLEAR: LLM Güvenlik Hizalamasinda Yeni Dönem Basliyor

Stanford Üniversitesi araştırmacıları, büyük dil modellerinin güvenlik hizalaması sorununa köklü bir çözüm getiren yeni bir yöntem geliştirdi.

· 2 dk okuma · 0 yorum

Yapay zekâya sor Paylaş
Kısaca · 3 madde
  1. Stanford Üniversitesi araştırmacıları, büyük dil modellerinin güvenlik hizalaması sorununa köklü bir çözüm getiren yeni bir yöntem geliştirdi.
  2. Güvenlik Hizalaması Neden Utility Kaybına Yol Açıyor?
  3. CLEAR Yöntemi Nasıl Çalışıyor?

Stanford Üniversitesi araştırmacıları, büyük dil modellerinin güvenlik hizalaması sorununa köklü bir çözüm getiren yeni bir yöntem geliştirdi. CLEAR (Continuous Latent Adapter Routing) adı verilen bu çerçeve, güvenlik iyileştirmelerinin utility kaybına yol açmadan nasıl uygulanabileceğini gösteriyor.

Güvenlik Hizalaması Neden Utility Kaybına Yol Açıyor?

Geleneksel LLM güvenlik hizalaması yöntemleri, modelin ağırlıklarını doğrudan değiştirir. Bu yaklaşımda güvenlik ince ayarı (safety fine-tune), zararlı olsun ya da olmasın her girdiye uygulanır. Sonuç olarak model, zararsız promptlarda bile daha zayıf performans göstermeye başlar. Stanford araştırmacıları bu sorunu “her girdi artık daha güvenli ama daha zayıf bir model üzerinden çalışıyor” şeklinde tanımlıyor.

CLEAR Yöntemi Nasıl Çalışıyor?

CLEAR, orijinal modeli dondurulmuş bırakarak farklı bir strateji benimsiyor:

  • Gizli Durum Geçidi (Hidden-State Gate): Her girdi için hafif bir kapı mekanizması, ne kadar güvenlik modülünün devreye gireceğini belirler.
  • Koşullu Adaptasyon: Zararsız promptlar neredeyse hiç güvenlik modülü kullanmaz ve orijinal model üzerinde çalışır.
  • Dondurulmuş Ana Model: Temel model değişmeden kalır, böylece genel yetenekler korunur.
  • Güvenlik Low-Rank Adaptörü: Ayrı bir adaptör, yalnızca gerektiğinde devreye girer.

Etkileyici Sonuçlar: HarmBench ASR Yüzde 0.5’e Düştü

Araştırmacılar, CLEAR’ı Llama-3-8B-Instruct modeli üzerinde test etti. Sonuçlar çarpıcıydı:

  • HarmBench Saldırı Başarı Oranı (ASR): Yüzde 32.3’ten yüzde 0.5’e düştü
  • GSM8K Matematik Benchmark: SFT veya standart LoRA’ya kıyasla 7.1 puan daha yüksek doğruluk oranı
  • Zararsız Prompt Performansı: Temel modelin utility’si büyük ölçüde korundu

Araştırma Detayları

Kağıt, Chengxiao Wang, Enyi Jiang, Xiaojing Liao ve Sanmi Koyejo tarafından kaleme alındı. Çalışma, yaygın kullanılan güvenlik ve utility benchmarkları üzerinde kapsamlı deneyler gerçekleştirdi.

Sonuç ve Değerlendirme

Bu çalışma, yapay zeka güvenliği alanında önemli bir kilometre taşı niteliği taşıyor. Güvenlik ve fayda arasındaki dengeyi koruyarak her ikisini de en üst düzeyde tutmak, LLM üreticileri için kritik bir hedeftir. CLEAR’ın önerdiği koşullu yaklaşım, gelecekteki güvenlik hizalaması yöntemlerine ışık tutuyor.

Kaynak: arxiv.org/abs/2608.21278

Yapay zekâya sor

Haberi seçtiğiniz asistanda hazır bir soruyla açın

Şu haberi 3 maddede özetle: https://aihaber.org/stanford-clear-llm-guvenlik-hizalamasi/

Gemini hazır soruyla açılamıyor: soru panonuza kopyalanır, açılan sayfada yapıştırmanız yeterli.

Paylaş
X LinkedIn WhatsApp Telegram Reddit Bluesky Threads E-posta

Bu haber işinize yaradı mı?

Yorumlar 0

Yorum yazın

Karakter: 0/1000

Henüz yorum yok. İlk yorumu siz yazın.

İlgili haberler