日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
マニピュレーションarXiv:2608.16978v1

VLCP: 視覚言語制御ポリシーによるロボット操作の閉ループコード再計画

VLCP: Vision Language Control Policy Closed-Loop Code Replanning for Robot Manipulation

シェア:XThreadsFacebookLINEはてブBluesky

凍結した視覚言語モデルを制御コード生成に用い、デモや微調整なしでロボット操作ポリシーを実現。エピソード内でコードを再計画することで失敗を修正し、成功率を大幅に向上させた。

詳しい要約

1. どんなもの?

VLCPは、フローズンなVision-Language Model (VLM)をロボットポリシーとして利用する手法。VLMをファインチューニングせず、制御コードをPython関数として記述させる。エピソード内でKステップごとにVLMがマルチビューRGB、プロプリオセプティブ状態、状態差分を再観察し、制御関数を書き直すクローズドループのコード再プランニングを提案。57タスクのMuJoCo/RoboVerse環境で評価し、オープンループと比較して成功率が10倍向上。

2. 先行研究と比べてどこがすごい?

従来のVLMをロボットポリシーに変換する方法は、ファインチューニングにより事前学習で見たことのない行動表現を出力させるため、推論能力が損なわれる。また、既存のクローズドループ手法は、固定ポリシーの再試行やサブタスクの選択など、失敗が発生するレベル(制御コード)で反応しない。VLCPは、制御コード自体を書き直すことで、失敗の根本原因に対処する点が新しい。

3. 技術・手法の肝は?

VLMをフローズンのまま使用し、制御コードをPython関数として生成させる。エピソード内でKステップごとに、VLMが現在のシーン(マルチビューRGB、プロプリオセプティブ状態、状態差分)を再観察し、制御関数を書き直す。これにより、失敗が複合する前に検出・修正される。また、再プランニング時に生成された制御ブロックは、クロスエピソードのスキルライブラリに蓄積され、後のプロンプトで再利用される。

4. どうやって有効だと検証した?

57タスクのMuJoCo/RoboVerseスイープで評価。プール成功率は35.1%で、同一システムをエピソードごとに1回だけクエリした場合の3.5%と比較して10倍の向上。信頼区間は非重複で、全シーンファミリーで一貫。失敗した把持のエピソード内回復率は27.3%で、オープンループではエピソード終了まで失敗が続くところを、再プランニングで修正。入力トークンの中央値84%がキャッシュにヒットし、エピソードあたり約10回のコンパクトなクエリで済む。

5. 議論はある?

要旨からは、VLCPの限界や議論についての詳細は不明。ただし、成功率が35.1%とまだ低いこと、VLMのコード生成能力に依存すること、再プランニングの頻度Kの設定が性能に影響する可能性などが考えられるが、要旨には明記されていない。

6. 次に読むべき論文は?

要旨で参照されている関連研究は明示されていないが、VLMをロボットポリシーに利用する研究や、クローズドループ制御、コード生成によるロボット制御の分野の定番論文が挙げられる。具体的には、'VoxPoser'や'Code as Policies'、'RT-2'などが関連する可能性があるが、要旨からは不明。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Dhia Naouali, Minghan Wu, Claudia Wong, Abhinav Puthran, Omar G. Younis

分類: cs.RO, cs.LG

原文アブストラクト

Turning a frontier vision-language model into a robot policy usually means fine-tuning it to emit an action representation it never saw in pretraining, which throws away much of the reasoning that made the model worth reaching for. We go the other way and keep the VLM frozen. It writes the policy as a short Python control function, with no demonstrations and no fine-tuning. Writing that code once is open-loop, though. Existing closed-loop methods react at the wrong level: they retry a fixed policy or pick a different subtask, but never rewrite the code that failed. VLCP closes the loop where the failure actually lives, on the control code, within a single episode. Every $K$ steps the VLM re-observes the scene from multi-view RGB, proprioceptive state, and a state delta, then rewrites the control function from what it just saw, so a failure is caught before it compounds. We evaluate on a 57-task MuJoCo/RoboVerse sweep. This training-free policy reaches $35.1\%$ pooled success, against $3.5\%$ for the identical system queried once per episode. That tenfold gap holds with non-overlapping confidence intervals in every scene family. The gain traces to a $27.3\%$ within-episode recovery rate on failed grasps: a miss an open-loop controller would carry to the end of the episode gets re-observed and fixed at the next replan. And the loop stays cheap. A median $84\%$ of input tokens hit cache, an episode needs only about $10$ compact queries, and control blocks written during any replan persist to a cross-episode skill library reused in later prompts.