Yüksek boyutlu ham video verilerinin doğrudan yayılma modellemesi zordur ve mevcut piksel alanı yöntemleri genellikle özel mimarilere dayanır. Önceden eğitilmiş bir otomatik kodlayıcı, yardımcı detaylandırıcılar, kademeli aşamalar veya U-Net tarzı atlama bağlantıları olmadan, piksel alanı video dağıtımı için basit bir geniş yama DiT tarzı Transformatör olan JVT'yi (Just Video Transformer) tanıtıyoruz. Oluşturma kalitesini ve hesaplama verimliliğini dengeleyen tasarım seçeneklerini belirlemek için video yama yerleştirmelerini, kayıt belirteçlerini ve uyarlanabilir katman normalleştirmesini sistematik olarak inceliyoruz.
- Yüksek boyutlu ham video verilerinin doğrudan yayılma modellemesi zordur ve mevcut piksel alanı yöntemleri genellikle özel mimarilere dayanır.
- Önceden eğitilmiş bir otomatik kodlayıcı, yardımcı detaylandırıcılar, kademeli aşamalar veya U-Net tarzı atlama bağlantıları olmadan, piksel alanı video dağıtımı için basit bir geniş yama DiT tarzı Transformatör olan JVT'yi (Just Video Transformer) tanıtıyoruz.
- Oluşturma kalitesini ve hesaplama verimliliğini dengeleyen tasarım seçeneklerini belirlemek için video yama yerleştirmelerini, kayıt belirteçlerini ve uyarlanabilir katman normalleştirmesini sistematik olarak inceliyoruz.
Yüksek boyutlu ham video verilerinin doğrudan yayılma modellemesi zordur ve mevcut piksel alanı yöntemleri genellikle özel mimarilere dayanır.
02 Özet
Yüksek boyutlu ham video verilerinin doğrudan yayılma modellemesi zordur ve mevcut piksel alanı yöntemleri genellikle özel mimarilere dayanır. Önceden eğitilmiş bir otomatik kodlayıcı, yardımcı detaylandırıcılar, kademeli aşamalar veya U-Net tarzı atlama bağlantıları olmadan, piksel alanı video dağıtımı için basit bir geniş yama DiT tarzı Transformatör olan JVT'yi (Just Video Transformer) tanıtıyoruz. Oluşturma kalitesini ve hesaplama verimliliğini dengeleyen tasarım seçeneklerini belirlemek için video yama yerleştirmelerini, kayıt belirteçlerini ve uyarlanabilir katman normalleştirmesini sistematik olarak inceliyoruz. Ortaya çıkan JVT tasarımı, hem sınıf koşullu hem de koşulsuz ortamlarda gizli difüzyon temel çizgileriyle rekabet edebilecek üretim kalitesine ulaşır. JVT'nin piksel alanı formülasyonu aynı zamanda doğal olarak piksel hizalı modalitelerin ortak oluşturulmasını da destekler. Bu yeteneği, yalnızca RGB taban çizgilerine göre kamera takibini geliştiren ve çıkarımda ek bir yeniden yapılandırma modeli olmadan açık sahne geometrisi sağlayan, kamera koşullu RGB eşitsizliği oluşturma yoluyla gösteriyoruz. Bu sonuçlar, piksel uzayı video dağıtımı için basit DiT tarzı Transformatörlerin potansiyelini vurguluyor ve bulgularımızın gelecekteki araştırmalar için yararlı bilgiler ve pratik rehberlik sunacağını umuyoruz.
Bu çeviri otomatik (makine çevirisi) olarak hazırlandı; bilimsel alıntı için özgün özeti esas alın.
Direct diffusion modeling of high-dimensional raw video data is challenging, and existing pixel-space methods often rely on specialized architectures. We introduce JVT (Just Video Transformer), a simple large-patch DiT-style Transformer for pixel-space video diffusion, without a pretrained autoencoder, auxiliary detailers, cascaded stages, or U-Net-style skip connections. We systematically examine video patch embeddings, register tokens, and adaptive layer normalization to identify design choices that balance generation quality and computational efficiency. The resulting JVT design achieves generation quality competitive with latent diffusion baselines in both class-conditioned and unconditional settings. The pixel-space formulation of JVT also naturally supports joint generation of pixel-aligned modalities. We demonstrate this capability through camera-conditioned RGB-disparity generation, which improves camera following relative to RGB-only baselines and yields explicit scene geometry without an additional reconstruction model at inference. These results highlight the potential of simple DiT-style Transformers for pixel-space video diffusion, and we hope our findings offer useful insights and practical guidance for future research.
03 PDF
Bu PDF başka bir sitede (arxiv.org) barındırılıyor ve sayfa içinde gösterilemiyor. Yukarıdaki düğmelerle yeni sekmede açabilir ya da indirebilirsiniz.
04 Kaynak göster
@article{zhou2026jvt,
title = {JVT: Just Video Transformer makes pixel-space video diffusion simple},
author = {Jianjun Zhou and Hua Geng and Haoyu Guo},
journal = {arXiv preprint arXiv:2611.18549},
year = {2026},
url = {https://arxiv.org/abs/2611.18549}
}
Zhou, J., Geng, H., & Guo, H. (2026). JVT: Just Video Transformer, piksel alanı video dağıtımını basitleştiriyor. arXiv. https://arxiv.org/abs/2611.18549
Yorumlar 0
Henüz yorum yok. İlk yorumu siz yazın.
Yorum yazın