İçeriğe geç
CANLI 03:21 OpenAI Performance Factory: Codex, ChatGPT’yi hızlı tutuyor 03:21 Çin çip kısıtlaması: Sevkiyat durdu, bulut kapısı kapandı 03:21 Nadella 60 bin çalışan için ayrılma teklifini açıkladı 03:21 Gemini Mac bilgisayar kullanımı özelliği tanıtıldı 03:20 Anthropic Nasdaq’ta ilk gün: Hisse 111,50 dolardan açıldı Zekâ endeksi lideri Claude Fable 5.2 (Max, Default Fallback) · 64,6 20.11.2026
Bülten

arXiv 2611.26629 cs.CV

Arka Eşleştirme Damıtma

Özgün başlık Posterior Matching Distillation

  • Hidir Yesiltepe
  • Julius Berner
  • Arash Vahdat
  • Pinar Yanardag
ai/muhabir · özet metinden derlendi

Difüzyon damıtma, önceden eğitilmiş bir öğretmenin yinelemeli örnekleme sürecini birkaç ağ değerlendirmesine sıkıştırarak görüntü ve video üretimini hızlandırır. Dağıtıma dayalı yöntemler bunu, öğrencinin çıktı dağılımını öğretmeninkiyle eşleştirerek başarır. Bu eşleştirme genellikle, mod arama önyargısı, örnekler arasındaki çeşitlilik pahasına baskın öğretmen modlarını tercih eden ters KL hedefleri tarafından yönlendirilir.

Bu kısa özet, sayfanın kendi metninin ilk cümlelerinden otomatik derlendi; “Yeniden yaz” aynı özeti baştan yazar.

02 Özet

Difüzyon damıtma, önceden eğitilmiş bir öğretmenin yinelemeli örnekleme sürecini birkaç ağ değerlendirmesine sıkıştırarak görüntü ve video üretimini hızlandırır. Dağıtıma dayalı yöntemler bunu, öğrencinin çıktı dağılımını öğretmeninkiyle eşleştirerek başarır. Bu eşleştirme genellikle, mod arama önyargısı, örnekler arasındaki çeşitlilik pahasına baskın öğretmen modlarını tercih eden ters KL hedefleri tarafından yönlendirilir. Mod kapsayan arka örneklemeyi herhangi bir adımlı üretimle birleştiren dağıtım bazlı damıtma ailesinin yeni bir üyesi olan Arka Eşleştirme Damıtmayı (PMD) tanıtıyoruz. Sıfır popülasyon kaybında PMD, eğitilen her gürültü seviyesinde öğretmenin temiz görüntülerin tam arka planını kurtarır. Stokastik öğrencisi, daha fazla eğitim gerektirmeden, eğitimli zaman adımı ızgarası dahilinde herhangi bir adımlı örnekleme bütçelerini destekler. Bu sonsalları öğrenmek için PMD, sabit bir gürültülü duruma koşullandırılmış öğrenci örneklerinin üstel olarak yeniden ağırlıklandırılmış ortalamalarını karşılık gelen öğretmen sonsal ortalamalarıyla eşleştirir. Gauss bozulması altında, üstel olarak eğimli sonsal ortalama, kaydırılmış bir girdide tek bir öğretmen değerlendirmesidir. Açık bir komşuluk üzerinde eğik ortalamaların eşleştirilmesinin tam posterioru benzersiz bir şekilde tanımladığını kanıtladık. Dolayısıyla PMD, herhangi bir yardımcı öğrenci puanı ağı olmaksızın, bir ortalama kısıtlama ailesi aracılığıyla tüm koşullu dağılımı denetler. SDXL ve FLUX.2 [klein] 4B üzerinde yapılan deneyler, PMD'nin her iki modelde de 4 adımlı yöntemler arasında en iyi FID'yi elde ettiğini, aynı zamanda istem hizalama ve algısal kalite ölçümlerinde rekabetçi veya lider performansı koruduğunu göstermektedir.

Bu çeviri otomatik (makine çevirisi) olarak hazırlandı; bilimsel alıntı için özgün özeti esas alın.

Diffusion distillation accelerates image and video generation by compressing a pretrained teacher's iterative sampling process into a few network evaluations. Distribution-based methods achieve this by matching the student's output distribution to the teacher's. This matching is often driven by reverse-KL objectives, whose mode-seeking bias favors dominant teacher modes at the expense of diversity across samples. We introduce Posterior Matching Distillation (PMD), a new member of the distribution-based distillation family that combines mode-covering posterior sampling with any-step generation. At zero population loss, PMD recovers the teacher's full posterior of clean images at each trained noise level. Its stochastic student supports any-step sampling budgets within the trained timestep grid without further training. To learn these posteriors, PMD matches exponentially reweighted averages of student samples conditioned on a fixed noisy state to corresponding teacher posterior means. Under Gaussian corruption, exponentially tilted posterior mean is a single teacher evaluation at a shifted input. We prove that, matching tilted means over an open neighborhood uniquely identifies the full posterior. PMD thus supervises the entire conditional distribution through a family of mean constraints, without any auxiliary student-score network. Experiments on SDXL and FLUX.2 [klein] 4B demonstrate that PMD achieves the best FID among 4-step methods on both models, while maintaining competitive or leading performance across prompt-alignment and perceptual-quality metrics.

03 PDF

Bu PDF başka bir sitede (arxiv.org) barındırılıyor ve sayfa içinde gösterilemiyor. Yukarıdaki düğmelerle yeni sekmede açabilir ya da indirebilirsiniz.

04 Kaynak göster

BibTeX
@article{yesiltepe2026posterior,
  title   = {Posterior Matching Distillation},
  author  = {Hidir Yesiltepe and Julius Berner and Arash Vahdat and Pinar Yanardag},
  journal = {arXiv preprint arXiv:2611.26629},
  year    = {2026},
  url     = {https://arxiv.org/abs/2611.26629}
}
APA
Yesiltepe, H., Berner, J., Vahdat, A., & Yanardag, P. (2026). Arka Eşleştirme Damıtma. arXiv. https://arxiv.org/abs/2611.26629
Paylaş
X LinkedIn WhatsApp Telegram Reddit Bluesky Threads E-posta

Yorumlar 0

Yorum yazın

Karakter: 0/1000

Henüz yorum yok. İlk yorumu siz yazın.