D&A: Ayrıştırma Açıklaması ve Değerlendirmesi, VLM’lerin Sıfır Atışlı Robotik Ödül Modelleri Olmasını Sağlıyor

Özetle: Vizyon-Dil Modelleri (VLM'ler), robot öğreniminde sıfır çekimli video görev ilerlemesi tahmini için umut vaat ediyor, ancak mevcut çerçeveler sıklıkla doğrulama önyargısından, örtülü başarı varsayımları veya göreceli za…

Özet

Vizyon-Dil Modelleri (VLM'ler), robot öğreniminde sıfır çekimli video görev ilerlemesi tahmini için umut vaat ediyor, ancak mevcut çerçeveler sıklıkla doğrulama önyargısından, örtülü başarı varsayımları veya göreceli zamansal sıralama tasarımlarından dolayı başarısız yürütmelerdeki halüsinasyon ilerlemesinden muzdariptir. Sınır modellerinin saf bir şekilde yönlendirilmesi, incelikli, doğrusal olmayan ilerlemeyi ve başarısızlıkları yakalayamayan ikili bir başarı dedektörüne dönüşür. Eğitim sonrası yaklaşımlar, açık eğitim yoluyla bu durumu hafifletebilirken, pahalı gerçek dünya robotik verileri talep ederler ve her bir temel model için yoğun hesaplamalı eğitim sonrası eğitim gerektirirler. Bu sınırlamaları çözmek için, D&A'yı (Açıklama ve Değerlendirme) sunuyoruz: yaklaşımımız, ilerleme tahminini, sahne dinamiklerinin nesnel, göreve dayalı bir metinsel açıklamasına ve ardından açık değerlendirme listeleri kullanan bir değerlendirme aşamasına ayırır. Çerçeve, VLM'yi puanlamadan önce mutlak başarının açık, metin tabanlı tanımını sentezlemeye zorlayarak, değerlendirmeleri videonun dahili zaman çizelgesinden ziyade harici, küresel bir kritere sabitler. Ampirik sonuçlar, yöntemimizin sıfır atış tahminlerini kalibre ettiğini ve doğrulama yanlılığını azalttığını, başarılı çalıştırmaları doğru şekilde enterpolasyon yaparken başarısız yürütmeleri doğru bir şekilde cezalandıran ayrıntılı, kısmi ilerleme ölçümleri sağladığını göstermektedir. Tamamen harekete dayalı olan D&A, görevler, düzenlemeler ve kıyaslamalar genelinde genelleme yapar – eğitim sonrası ödül modelleriyle eşleşir veya onları aşar – ve ödül tahminleri, verimli aşağı yönde takviyeli öğrenmeyi mümkün kılar.

Orijinal Özet (İngilizce)

Vision-Language Models (VLMs) hold promise for zero-shot video task-progress estimation in robot learning, yet existing frameworks frequently suffer from confirmation bias, hallucinating progress in failed executions due to implicit success assumptions or relative temporal ranking designs. Naive prompting of frontier models collapses into a binary success detector that fails to capture nuanced, non-linear progress and failures. While post-training approaches can mitigate this through explicit training, they demand expensive real-world robotics data and require computationally intensive post-training for every individual base model. To resolve these limitations, we introduce D&A (Describe & Assess): our approach decouples progress estimation into an objective, task-grounded textual description of scene dynamics followed by an assessment phase using explicit rubrics. By compelling the VLM to synthesize an explicit, text-based definition of absolute success before scoring, the framework anchors evaluations to an external, global criterion rather than the video's internal timeline. Empirical results demonstrate that our method calibrates zero-shot estimates and mitigates confirmation bias, providing fine-grained, partial progress metrics that accurately penalize failed executions while correctly interpolating successful runs. Being purely prompt-based, D&A generalizes across tasks, embodiments, and benchmarks—matching or surpassing post-trained reward models—and its reward estimates enable efficient downstream reinforcement learning.

Kaynak: arXiv:2611.03622 · PDF