Jailbreak girişimleri ve zararlı istemler, büyük dil modellerinin güvenli bir şekilde konuşlandırılmasında zorluk teşkil etmeye devam ediyor. Karşılaştırmalı olarak öğrenilen temsillerin, ek bir aşağı akış sınıflandırıcıyı eğitmeden güvenlik tespitini destekleyip destekleyemeyeceğini araştırıyoruz. Zararlı ve zararsız prototipler oluşturmak için ikili güvenlik etiketleri kullanan ve göreceli prototip mesafelerinden tahminler yapan Prototip Çıkarımı (JDPI) ile Jailbreak Tespiti'ni öneriyoruz.
- Jailbreak girişimleri ve zararlı istemler, büyük dil modellerinin güvenli bir şekilde konuşlandırılmasında zorluk teşkil etmeye devam ediyor.
- Karşılaştırmalı olarak öğrenilen temsillerin, ek bir aşağı akış sınıflandırıcıyı eğitmeden güvenlik tespitini destekleyip destekleyemeyeceğini araştırıyoruz.
- Zararlı ve zararsız prototipler oluşturmak için ikili güvenlik etiketleri kullanan ve göreceli prototip mesafelerinden tahminler yapan Prototip Çıkarımı (JDPI) ile Jailbreak Tespiti'ni öneriyoruz.
Jailbreak girişimleri ve zararlı istemler, büyük dil modellerinin güvenli bir şekilde konuşlandırılmasında zorluk teşkil etmeye devam ediyor.
02 Özet
Jailbreak girişimleri ve zararlı istemler, büyük dil modellerinin güvenli bir şekilde konuşlandırılmasında zorluk teşkil etmeye devam ediyor. Karşılaştırmalı olarak öğrenilen temsillerin, ek bir aşağı akış sınıflandırıcıyı eğitmeden güvenlik tespitini destekleyip destekleyemeyeceğini araştırıyoruz. Zararlı ve zararsız prototipler oluşturmak için ikili güvenlik etiketleri kullanan ve göreceli prototip mesafelerinden tahminler yapan Prototip Çıkarımı (JDPI) ile Jailbreak Tespiti'ni öneriyoruz. JDPI, kodlayıcı uyarlaması, prototip oluşturma ve doğrulama için yalnızca ikili güvenlik etiketlerini kullanır. Kurulumumuzda, aşağı akış sınıflandırıcısını eğitmek için kullanılan ayrı bölmeden kaçınarak, sınıflandırıcı temel çizgisinden (Yöntem A) daha az etiketli örnek kullanır. Farklı giriş formatlarını kapsayan dört kıyaslamada karşılaştırmalı ince ayar, JDPI'nin algılama doğruluğunu yüzde 9,1-18,0 puan artırır. JDPI, aynı kodlayıcıyı kullanarak bir kıyaslamada biraz daha yüksek ROC-AUC elde ediyor ve dördünde de taban çizgisinin 0,017'si dahilinde kalıyor. Veri kümesine özel uyarlamayla JDPI, yayımlanan Llama Guard 3-8B temel çizgisini dört kıyaslamada ROC-AUC'de 0,173-0,310 oranında aştı. TomGibbs'teki çok turlu tekrar oynatmada JDPI, konuşma ilerledikçe birikmiş kullanıcı geçmişini kullanır ve mevcut turu tek başına kullandığı zamana göre daha yüksek konuşma düzeyinde doğruluk elde eder. JDPI, 12 yönlendirilmiş aktarımda doğruluk açısından sınıflandırıcıyı ortalama yüzde 1,59 puan geride bırakarak veri kümeleri arası daha güçlü bir sağlamlık sergiliyor.
Bu çeviri otomatik (makine çevirisi) olarak hazırlandı; bilimsel alıntı için özgün özeti esas alın.
Jailbreak attempts and harmful prompts remain a challenge for the safe deployment of large language models. We study whether contrastively learned representations can support safety detection without training an additional downstream classifier. We propose Jailbreak Detection with Prototype Inference (JDPI), which uses binary safety labels to construct harmful and benign prototypes and makes predictions from relative prototype distances. JDPI uses only binary safety labels for encoder adaptation, prototype construction, and validation. In our setup, it uses fewer labeled examples than the classifier baseline (Method A) by avoiding the separate split used to train the downstream classifier. Across four benchmarks covering different input formats, contrastive fine-tuning improves JDPI's detection accuracy by 9.1-18.0 percentage points. Using the same encoder, JDPI achieves slightly higher ROC-AUC on one benchmark and stays within 0.017 of the baseline across all four. With dataset-specific adaptation, JDPI exceeds the released Llama Guard 3-8B baseline by 0.173-0.310 in ROC-AUC across the four benchmarks. In multi-turn replay on TomGibbs, JDPI uses accumulated user history as the conversation unfolds, achieving higher conversation-level accuracy than when it uses the current turn alone. Across 12 directed transfers, JDPI outperforms the classifier by an average of 1.59 percentage points in accuracy, demonstrating stronger cross-dataset robustness.
03 PDF
Bu PDF başka bir sitede (arxiv.org) barındırılıyor ve sayfa içinde gösterilemiyor. Yukarıdaki düğmelerle yeni sekmede açabilir ya da indirebilirsiniz.
04 Kaynak göster
@article{qiu2026jailbreak,
title = {Jailbreak Detection on Large Language Models via Contrastive Prototype Structures},
author = {Yan Qiu and Yuanyuan Li},
journal = {arXiv preprint arXiv:2611.24936},
year = {2026},
url = {https://arxiv.org/abs/2611.24936}
}
Qiu, Y., & Li, Y. (2026). Karşılaştırmalı Prototip Yapıları Aracılığıyla Büyük Dil Modellerinde Jailbreak Tespiti. arXiv. https://arxiv.org/abs/2611.24936
Yorumlar 0
Henüz yorum yok. İlk yorumu siz yazın.
Yorum yazın