İçeriğe geç
CANLI 03:21 OpenAI Performance Factory: Codex, ChatGPT’yi hızlı tutuyor 03:21 Çin çip kısıtlaması: Sevkiyat durdu, bulut kapısı kapandı 03:21 Nadella 60 bin çalışan için ayrılma teklifini açıkladı 03:21 Gemini Mac bilgisayar kullanımı özelliği tanıtıldı 03:20 Anthropic Nasdaq’ta ilk gün: Hisse 111,50 dolardan açıldı Zekâ endeksi lideri Claude Fable 5.2 (Max, Default Fallback) · 64,6 20.11.2026
Bülten

arXiv 2611.26569 cs.CR

Metin Farkındalığına Sahip, Görsel Olarak Kör: Çok Modlu Görüntü Düzenleme Sistemleri Güvensiz Girdileri Nasıl Ele Alır?

Özgün başlık Text-Aware, Vision-Blind: How Multimodal Image Editing Systems Handle Unsafe Inputs

  • Ziqing Yang
  • Yixin Wu
  • Michael Backes
  • Yang Zhang
ai/muhabir · özet metinden derlendi

Çok modlu görüntü oluşturma sistemleri hızla ilerleme kaydetmiş ve içerik güvenliğine giderek daha fazla önem vermektedir. Bununla birlikte, güvenlik mekanizmaları genellikle tek bir modaliteye dayanma eğilimindedir ve özellikle yüklenen görüntünün kendisinin de bir metin istemi olarak işlev görebileceği talimatlarla yönlendirilen görüntü düzenlemede, hem görsel içeriğin hem de metin istemlerinin birlikte değerlendirilmesinden yoksundur. Bu nedenle, 11 risk kategorisinde güvenli ve güvenli olmayan görüntüleri kapsayan 5.940 görüntü-talimat çifti içeren, gelişmiş görüntü düzenleme sistemlerinin sistem düzeyinde güvenlik farkındalığını ölçen bir kıyaslama olan EditSafetyBench'i tanıtıyoruz. ve üç düzenleme amacı.

Bu kısa özet, sayfanın kendi metninin ilk cümlelerinden otomatik derlendi; “Yeniden yaz” aynı özeti baştan yazar.

02 Özet

Çok modlu görüntü oluşturma sistemleri hızla ilerleme kaydetmiş ve içerik güvenliğine giderek daha fazla önem vermektedir. Bununla birlikte, güvenlik mekanizmaları genellikle tek bir modaliteye dayanma eğilimindedir ve özellikle yüklenen görüntünün kendisinin de bir metin istemi olarak işlev görebileceği talimatlarla yönlendirilen görüntü düzenlemede, hem görsel içeriğin hem de metin istemlerinin birlikte değerlendirilmesinden yoksundur. Risk taşıyorsa. Bu nedenle, 11 risk kategorisinde güvenli ve güvenli olmayan görüntüleri kapsayan 5.940 görüntü-talimat çifti içeren, gelişmiş görüntü düzenleme sistemlerinin sistem düzeyinde güvenlik farkındalığını ölçen bir kıyaslama olan EditSafetyBench'i tanıtıyoruz. ve üç düzenleme amacı. Ardından Gemini, GPT, Qwen API ve Qwen Local dâhil olmak üzere dört sistemde kıyaslama veri setini inceliyoruz. Değerlendirmemize dayanarak, sistematik bir metin-görüntü güvenlik uyumsuzluğu gözlemlemekteyiz: Gemini ve GPT, güvenli olmayan amaçlı düzenleme istemleri içeren vakaların %87,1'ini ve %81,6'sını reddederken, hem güvenli olmayan amaçlı hem de güvenli olmayan içerikli istemler içeren vakaların yalnızca %24,2'sini ve %22,4'ünü reddetmektedir. fe görüntüleri ve nötr talimatlar. Kategori düzeyinde, çoğu risk farklı sistemler tarafından tutarsız bir şekilde değerlendirilmektedir; örneğin, GPT güvenli olmayan siyasi içeriklerde %70,4 oranında düzenleme girişimine izin verirken Gemini yalnızca %34,8 oranında izin vermektedir. Özellikle cinsel içerik, muhtemelen yetişkinlere yönelik NSFW tanımlama çalışmalarından yararlanarak en güçlü görsel hassasiyeti göstermektedir. Elde ettiğimiz bulgular, görüntü düzenleme sistemlerinde hem görsel hem de metinsel yöntemler üzerinde ortak bir şekilde akıl yürütme sağlayan güvenlik korkuluklarına duyulan ihtiyacı vurgulamaktadır.

Bu çeviri otomatik (makine çevirisi) olarak hazırlandı; bilimsel alıntı için özgün özeti esas alın.

Multimodal image generation systems have made rapid progress and increasingly emphasize content safety. However, their safety mechanisms tend to rely on a single modality and lack joint consideration of both visual content and text prompts, particularly in instruction-guided image editing, where the uploaded image may itself carry risk. We thus introduce EditSafetyBench, a benchmark that measures system-level safety awareness of advanced image editing systems, containing 5,940 image-instruction pairs, covering safe and unsafe images across 11 risk categories and three edit intents. We then probe the benchmark dataset on four systems, including Gemini, GPT, Qwen API, and Qwen Local. Based on our evaluation, we observe a systematic text-vision safety mismatch: Gemini and GPT refuse 87.1% and 81.6% cases containing unsafe-intent editing prompts, while only refusing 24.2% and 22.4% cases with both unsafe images and neutral instructions. At the category level, most risks are considered inconsistently by different systems, e.g., GPT allows 70.4% editing attempts of unsafe political content while Gemini only allows 34.8%. Notably, sexual content shows the strongest visual sensitivity, likely benefiting from mature NSFW identification works. Our findings highlight the need for safety guardrails that jointly reason over both visual and textual modalities in image editing systems.

03 PDF

Bu PDF başka bir sitede (arxiv.org) barındırılıyor ve sayfa içinde gösterilemiyor. Yukarıdaki düğmelerle yeni sekmede açabilir ya da indirebilirsiniz.

04 Kaynak göster

BibTeX
@article{yang2026textaware,
  title   = {Text-Aware, Vision-Blind: How Multimodal Image Editing Systems Handle Unsafe Inputs},
  author  = {Ziqing Yang and Yixin Wu and Michael Backes and Yang Zhang},
  journal = {arXiv preprint arXiv:2611.26569},
  year    = {2026},
  url     = {https://arxiv.org/abs/2611.26569}
}
APA
Yang, Z., Wu, Y., Backes, M., & Zhang, Y. (2026). Metin Farkındalığına Sahip, Görsel Olarak Kör: Çok Modlu Görüntü Düzenleme Sistemleri Güvensiz Girdileri Nasıl Ele Alır?. arXiv. https://arxiv.org/abs/2611.26569
Paylaş
X LinkedIn WhatsApp Telegram Reddit Bluesky Threads E-posta

Yorumlar 0

Yorum yazın

Karakter: 0/1000

Henüz yorum yok. İlk yorumu siz yazın.