日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
VLAarXiv:2610.18843

LIBERO-RIG:視覚言語行動モデルのためのハードウェア設定ロバスト性ベンチマーク

LIBERO-RIG: A Hardware-Setup Robustness Benchmark for Vision-Language-Action Models

シェア:XThreadsFacebookLINEはてブBluesky

ロボットのハードウェアと設定のみを摂動させ、タスクを固定したベンチマークLIBERO-RIGを提案し、9つの視覚言語行動モデルを評価して性能劣化を統計的に分析した。

詳しい要約

1. どんなもの?

- LIBERO-RIGは、Vision-Language-Action (VLA) モデル向けのハードウェア・セットアップ頑健性ベンチマーク。 - LIBEROのタスクは固定し、ロボットのハードウェアとセットアップのみを摂動させる。 - 11の摂動軸(カメラマウント・光学、カメラ-アーム間キャリブレーション、アクチュエーションゲイン、制御レート、固有受容ノイズ、ベース姿勢、テーブル高さ、グリッパパッドなど)を設定。 - 各軸に5段階の深刻度があり、4つのLIBEROスイートで210条件を生成。 - 9つの最近のVLAモデルを各条件500エピソードで評価し、統計的検定を実施。 - ベンチマークと各エピソードの固定摂動パラメータを記したマニフェストを公開。

2. 先行研究と比べてどこがすごい?

- 従来のVLA評価は視覚的摂動やタスク変化に焦点を当てがちだが、本ベンチマークはロボットのハードウェアとセットアップのみを摂動させる点が新しい。 - LIBEROタスクを固定することで、ハードウェア起因の性能低下を分離して評価できる。 - 11軸×5深刻度の体系的な摂動設計と、各条件500エピソード・統計的検定を組み合わせた厳密な評価は先行研究にない。 - 視覚的摂動での訓練が、カメラ画像を変えない故障(キャリブレーションずれ等)を緩和しないことを示した点も先行研究との差異。

3. 技術・手法の肝は?

- LIBEROの4スイートのタスクを固定し、ロボットのハードウェア・セットアップのみを摂動。 - 11の摂動軸(カメラマウント・光学、カメラ-アーム間キャリブレーション、アクチュエーションゲイン、制御レート、固有受容ノイズ、ベース姿勢、テーブル高さ、グリッパパッドなど)を定義。 - 各軸に5段階の深刻度を設け、合計210条件を生成。 - 各条件で500エピソードを実行し、9つのVLAモデルを評価。 - 結果を統計的検定で裏付け、エピソードごとの固定摂動パラメータを記したマニフェストを公開。

4. どうやって有効だと検証した?

- 9つの最近のVLAモデルを、4つのLIBEROスイートにわたる210条件で評価。 - 各条件500エピソードを実行し、統計的検定で各知見を裏付け。 - プール成功率が中程度の深刻度で0.932から0.767、最高深刻度で0.509に低下することを確認。 - 摂動軸やアクションインターフェース間で性能低下が大きく異なることを示した。 - 視覚的摂動での訓練が、カメラ画像を変えない故障を緩和しないことを検証。

5. 議論はある?

- 性能低下は摂動軸やアクションインターフェースによって大きく異なる。 - 視覚的摂動での訓練は、カメラ画像を変えない故障(キャリブレーションずれ、制御レート変化等)には効果がない。 - ハードウェア・セットアップの頑健性評価の重要性を示唆。 - 具体的な議論や限界については要旨からは不明。

6. 次に読むべき論文は?

- 要旨で参照・比較されている個別の研究は明記されていない。 - 関連手法として、LIBEROベンチマーク、Vision-Language-Action (VLA) モデル、視覚的摂動によるデータ拡張・訓練が挙げられる。 - 同分野の定番として、ロボット政策の汎化・頑健性評価に関するベンチマーク研究を参照すべき。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Andrea Yaoyun Cui, Hanyu Wang, Xinyi Wang, Bangzheng Li, Lin Zhang, Zhenggang Tang, Shyamal Buch, Dejia Xu, Matthew Tancik

分類: cs.RO, cs.AI

原文アブストラクト

Robot policies are expected to generalize across deployment environments, including variations in the robot itself: cameras are bumped and remounted, calibrations drift, controllers run at different rates, and end-effector pads wear down. We present LIBERO-RIG, a benchmark that perturbs only the robot's hardware and setup while holding every LIBERO task fixed. The benchmark spans eleven perturbation axes, including camera mounting and optics, camera-to-arm calibration, actuation gain, control rate, proprioceptive noise, base pose, table height, and gripper pads. Each axis has five severity levels, yielding 210 conditions across the four LIBERO suites. We evaluate nine recent vision-language-action models using 500 episodes per condition and substantiate each finding with rigorous statistical tests. Pooled success falls from 0.932 to 0.767 at the middle severity and 0.509 at the highest severity. Performance degradation varies substantially across perturbation axes and action interfaces, and training on visual perturbations does not mitigate faults that leave camera images unchanged. We release the benchmark together with manifests specifying the fixed perturbation parameters for each episode.

関連論文

PR本紙発行元 EmplifAI