Çoklu Görev Manipülasyonu için Kendi Kendini Gösteren Üretken Kontrole Sahip VLA’ların İnce Ayarı

Özetle: Pi0.5 gibi son teknoloji ürünü görüş-dil-eylem (VLA) modelleri, güçlü anlamsal anlayış, talimat takibi ve görev davranışı sergiler.

Özet

Pi0.5 gibi son teknoloji ürünü görüş-dil-eylem (VLA) modelleri, güçlü anlamsal anlayış, talimat takibi ve görev davranışı sergiler. Bununla birlikte, yeni robotlara yerleştirildiğinde, donanım konfigürasyonundaki ön eğitime göre en küçük uyumsuzluklar bile ciddi performans düşüşlerine neden olabilir. Yeni düzenlemeden alan içi uzman verileri üzerinde VLA'ya ince ayar yapılması, uzman görevindeki performansı artırır ancak orijinal talimat takibinde ve davranışsal önceliklerde kayba yol açar. Bu yazıda, ince ayar için ek eğitim verileri olarak sıfır atışlı VLA'dan çevrimiçi etkileşim sunumları üreten, kendi kendini denetleyen bir yöntem öneriyoruz. Deneylerimiz bunun, hedef robotta (1) kendileri için uzman demoları olmadan sıfır atışlı VLA'dan damıtılmış önceden eğitilmiş görevleri devralan, (2) uzmanların tele-işlettiği görevlerde yalnızca uzmanların ince ayarının ötesinde başarıyı ve genel talimatları geliştiren ve (3) ince ayarın bir parçası olmayan, önceden eğitilmiş politikadan ertelenen görevlerin unutulmasını azaltan güçlü çoklu görev manipülasyon politikaları sağladığını gösteriyor. Yaklaşımımızın başarısını, gerçek bir ALOHA robotu ve RoboTwin'deki yeni bir simülasyon karşılaştırması üzerinde genellemeyi araştıran test setleri genelinde gösteriyoruz. Video sonuçlarına https://self-supervised-control.pages.dev/ adresinden ulaşabilirsiniz.

Orijinal Özet (İngilizce)

State-of-the-art vision-language-action (VLA) models such as pi0.5 exhibit strong semantic understanding, instruction following and task behavior. However, when deployed on new robots, even minor mismatches in hardware configuration relative to pretraining can cause severe performance drops. Finetuning the VLA on in-domain expert data from the new embodiment improves performance on the expert task but leads to a loss in its original instruction following and behavioral priors. In this paper, we propose a self-supervised method that generates online interaction rollouts from the zero-shot VLA as additional training data for finetuning. Our experiments show this yields strong multi-task manipulation policies on the target robot that (1) inherit pretrained tasks distilled from the zero-shot VLA without expert demos for them, (2) improve success and generalist instruction following beyond expert-only fine-tuning on expert-teleoperated tasks, and (3) mitigate forgetting of held-out tasks from the pretrained policy, not part of fine-tuning. We demonstrate the success of our approach across test sets probing generalization on a real ALOHA robot and a new simulation benchmark in RoboTwin. Video results are available at https://self-supervised-control.pages.dev/

Kaynak: arXiv:2608.19490 · PDF