İçeriğe geç
CANLI 03:24 OpenAI raporu: Ajanlar 2-4 saatlik araştırma görevlerinin neredeyse yarısını tek başına bitiriyor 03:24 Google, Genie 4 dünya modelini Project Genie ile Ultra abonelerine açtı 03:23 NGINX’te HTTP/2 kaynaklı iki kritik uzaktan kod çalıştırma açığı: Güncelleme şart 03:23 Nvidia Çin’e H200 satışını durdurdu, yönetim kurulunda ulusal güvenlik komitesi kurdu 03:23 Anthropic halka arz fiyatını 83 dolar olarak belirledi: Hisseler ANT koduyla Nasdaq’ta Zekâ endeksi lideri Claude Fable 5.2 (Max, Default Fallback) · 64,6 19.11.2026
Bülten

arXiv 2611.24936 cs.CL

Karşılaştırmalı Prototip Yapıları Aracılığıyla Büyük Dil Modellerinde Jailbreak Tespiti

Özgün başlık Jailbreak Detection on Large Language Models via Contrastive Prototype Structures

  • Yan Qiu
  • Yuanyuan Li
ai/muhabir · özet metinden derlendi

Jailbreak girişimleri ve zararlı istemler, büyük dil modellerinin güvenli bir şekilde konuşlandırılmasında zorluk teşkil etmeye devam ediyor. Karşılaştırmalı olarak öğrenilen temsillerin, ek bir aşağı akış sınıflandırıcıyı eğitmeden güvenlik tespitini destekleyip destekleyemeyeceğini araştırıyoruz. Zararlı ve zararsız prototipler oluşturmak için ikili güvenlik etiketleri kullanan ve göreceli prototip mesafelerinden tahminler yapan Prototip Çıkarımı (JDPI) ile Jailbreak Tespiti'ni öneriyoruz.

Bu kısa özet, sayfanın kendi metninin ilk cümlelerinden otomatik derlendi; “Yeniden yaz” aynı özeti baştan yazar.

02 Özet

Jailbreak girişimleri ve zararlı istemler, büyük dil modellerinin güvenli bir şekilde konuşlandırılmasında zorluk teşkil etmeye devam ediyor. Karşılaştırmalı olarak öğrenilen temsillerin, ek bir aşağı akış sınıflandırıcıyı eğitmeden güvenlik tespitini destekleyip destekleyemeyeceğini araştırıyoruz. Zararlı ve zararsız prototipler oluşturmak için ikili güvenlik etiketleri kullanan ve göreceli prototip mesafelerinden tahminler yapan Prototip Çıkarımı (JDPI) ile Jailbreak Tespiti'ni öneriyoruz. JDPI, kodlayıcı uyarlaması, prototip oluşturma ve doğrulama için yalnızca ikili güvenlik etiketlerini kullanır. Kurulumumuzda, aşağı akış sınıflandırıcısını eğitmek için kullanılan ayrı bölmeden kaçınarak, sınıflandırıcı temel çizgisinden (Yöntem A) daha az etiketli örnek kullanır. Farklı giriş formatlarını kapsayan dört kıyaslamada karşılaştırmalı ince ayar, JDPI'nin algılama doğruluğunu yüzde 9,1-18,0 puan artırır. JDPI, aynı kodlayıcıyı kullanarak bir kıyaslamada biraz daha yüksek ROC-AUC elde ediyor ve dördünde de taban çizgisinin 0,017'si dahilinde kalıyor. Veri kümesine özel uyarlamayla JDPI, yayımlanan Llama Guard 3-8B temel çizgisini dört kıyaslamada ROC-AUC'de 0,173-0,310 oranında aştı. TomGibbs'teki çok turlu tekrar oynatmada JDPI, konuşma ilerledikçe birikmiş kullanıcı geçmişini kullanır ve mevcut turu tek başına kullandığı zamana göre daha yüksek konuşma düzeyinde doğruluk elde eder. JDPI, 12 yönlendirilmiş aktarımda doğruluk açısından sınıflandırıcıyı ortalama yüzde 1,59 puan geride bırakarak veri kümeleri arası daha güçlü bir sağlamlık sergiliyor.

Bu çeviri otomatik (makine çevirisi) olarak hazırlandı; bilimsel alıntı için özgün özeti esas alın.

Jailbreak attempts and harmful prompts remain a challenge for the safe deployment of large language models. We study whether contrastively learned representations can support safety detection without training an additional downstream classifier. We propose Jailbreak Detection with Prototype Inference (JDPI), which uses binary safety labels to construct harmful and benign prototypes and makes predictions from relative prototype distances. JDPI uses only binary safety labels for encoder adaptation, prototype construction, and validation. In our setup, it uses fewer labeled examples than the classifier baseline (Method A) by avoiding the separate split used to train the downstream classifier. Across four benchmarks covering different input formats, contrastive fine-tuning improves JDPI's detection accuracy by 9.1-18.0 percentage points. Using the same encoder, JDPI achieves slightly higher ROC-AUC on one benchmark and stays within 0.017 of the baseline across all four. With dataset-specific adaptation, JDPI exceeds the released Llama Guard 3-8B baseline by 0.173-0.310 in ROC-AUC across the four benchmarks. In multi-turn replay on TomGibbs, JDPI uses accumulated user history as the conversation unfolds, achieving higher conversation-level accuracy than when it uses the current turn alone. Across 12 directed transfers, JDPI outperforms the classifier by an average of 1.59 percentage points in accuracy, demonstrating stronger cross-dataset robustness.

03 PDF

Bu PDF başka bir sitede (arxiv.org) barındırılıyor ve sayfa içinde gösterilemiyor. Yukarıdaki düğmelerle yeni sekmede açabilir ya da indirebilirsiniz.

04 Kaynak göster

BibTeX
@article{qiu2026jailbreak,
  title   = {Jailbreak Detection on Large Language Models via Contrastive Prototype Structures},
  author  = {Yan Qiu and Yuanyuan Li},
  journal = {arXiv preprint arXiv:2611.24936},
  year    = {2026},
  url     = {https://arxiv.org/abs/2611.24936}
}
APA
Qiu, Y., & Li, Y. (2026). Karşılaştırmalı Prototip Yapıları Aracılığıyla Büyük Dil Modellerinde Jailbreak Tespiti. arXiv. https://arxiv.org/abs/2611.24936
Paylaş
X LinkedIn WhatsApp Telegram Reddit Bluesky Threads E-posta

Yorumlar 0

Yorum yazın

Karakter: 0/1000

Henüz yorum yok. İlk yorumu siz yazın.