NestDex: コパイロット支援遠隔操作による入れ子型ポリシー学習を用いた器用な操作

NestDexは、器用操作（dexterous manipulation）のためのネスト型ポリシー学習フレームワークである。学習者が腕の動作と指の細かい動作を直接指定する代わりに、学習済みのハンドスキルをデモンストレーション収集の補助に用いる。オペレータは腕を制御し、単一自由度のクラッチでアクティブなハンドスキルを調整する。内側のハンドポリシーは最新の固有受容感覚履歴から動作を適応させ、視覚言語セレクタがタスク段階に応じたスキルを選択する。収集されたデモンストレーションは、展開時に内側ポリシーを必要としない外側の視覚運動ポリシーを訓練する。ハンドアクション用の変分オートエンコーダ（VAE）がコンパクトなハンドアクションターゲットを提供し、腕のコマンドは関節空間に保持される。

従来の並行ジョー操作と異なり、器用操作ではタスク全体を通して腕の動きと接触の多い指の動作を協調させる必要があり、一貫した完全タスクのデモンストレーション収集が困難である。NestDexは、学習済みのハンドスキルをデモンストレーション収集に活用することで、オペレータが指の軌道を直接指定する負担を軽減し、デモンストレーションの信頼性と効率を向上させる点が新しい。

手法の核は、ネストされたポリシー構造である。内側のハンドポリシーは固有受容感覚履歴から適応し、視覚言語セレクタがタスク段階に応じたスキルを選択する。オペレータは単一DoFクラッチでスキルを切り替える。収集したデモンストレーションから、外側の視覚運動ポリシーを訓練し、展開時には内側ポリシーを使わずに腕と手を制御する。ハンドアクションVAEがコンパクトなアクション表現を提供する。

実世界の器用操作実験において、NestDexがデモンストレーションの信頼性と効率を向上させることを示し、得られたデモンストレーションから自律ポリシーの学習が効果的に行えることを実証した。具体的な数値や比較対象は要旨からは不明。

要旨からは、デモンストレーション収集の負担軽減と自律ポリシー学習の有効性が示唆されるが、内側ポリシーの汎化性や視覚言語セレクタの限界、VAEの表現力などに関する議論は明記されていない。また、実験の詳細や比較ベースラインについても不明。

要旨で参照されている関連研究は明示されていないが、同分野の定番として、dexterous manipulationのための学習手法（例：DexPilot、RoboTurk、DAgger）や、vision-language modelsを用いたロボット制御（例：RT-1、RT-2）が挙げられる。