日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
操作学習arXiv:2608.30983v1

言語駆動の品質多様性によるロボット操作スキルの自律獲得

Autonomously Acquiring Robot Manipulation Skills with Language-Driven Quality-Diversity

シェア:XThreadsFacebookLINEはてブBluesky

品質多様性アルゴリズムと大規模言語モデルを組み合わせ、タスクの自由記述のみから多様な動作プリミティブのアーカイブを自律的に生成する手法を提案した。

詳しい要約

1. どんなもの?

本論文は、ロボット操作スキルを自律的に獲得するための新しいフレームワークを提案している。Quality-Diversity (QD) アルゴリズムと大規模言語モデル (LLM) を組み合わせ、タスクの自由記述のみから多様な動作プリミティブのアーカイブを生成する。従来のQD法が専門家による成功条件やフィットネス・多様性指標の設計を必要とするのに対し、本手法はLLMを用いてこれらの指標を自動生成し、ロボットの自律性を高める。

2. 先行研究と比べてどこがすごい?

従来のQDアルゴリズムは、専門家が成功条件、フィットネス、多様性指標を手書きする必要があり、ロボットの自律性を制限していた。一方、既存のLLMベースの報酬設計手法は自律的に学習できるが、単一の高性能解のみを出力し、適応性に欠ける。本手法は、LLMをQDに統合し、専門家の介入なしに多様な動作アーカイブを生成できる点で優れている。

3. 技術・手法の肝は?

手法の核心は、ポリシー探索を機能設計問題として捉え、フィットネスと行動記述子 (BD) 空間よりも低次元の機能空間からLLMベースの探索スキームでサンプリングすること。タスク固有のプロンプトや微調整を必要としない。さらに、異種BDサンプルを活用するMAP-Elites Success (MES) アルゴリズムの多BD変種を適用する。

4. どうやって有効だと検証した?

genesisシミュレータを用いた4つのロボット操作タスクで実験を行い、提案手法が多様な動作プリミティブのアーカイブを効果的に生成することを示した。また、推論されたパラメータ化と手書きのパラメータ化を用いた古典的なQDアルゴリズムよりも優れた性能を発揮した。

5. 議論はある?

要旨からは、提案手法の限界や潜在的な問題についての議論は不明。ただし、LLMベースの探索が低次元機能空間に依存するため、タスクの複雑さによっては機能空間の設計が難しい可能性が考えられるが、要旨には明記されていない。

6. 次に読むべき論文は?

要旨で参照されている関連研究として、QDアルゴリズム (MAP-Elites) とLLMベースの報酬設計手法が挙げられる。次に読むべき論文としては、MAP-Elitesの原論文や、LLMを用いた報酬設計の最近の研究が考えられる。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Émiland Garrabé, Mahdi Khoramshahi, Stéphane Doncieux

分類: cs.RO

原文アブストラクト

Quality-diversity (QD) algorithms have been gaining traction in robot learning, where diverse motion primitive libraries allow robots to adapt zero-shot to constraints at deployment time. However, such methods typically require expert designers to write the success condition, fitness and diversity metrics, and this strongly limits the robot's autonomy. On the other hand, existing LLM-based reward-shaping techniques allow robots to learn autonomously but only output single high-performing solutions, limiting the robot's adaptability. In this paper, we propose an approach designed to output diverse motion primitive archives by autonomously leveraging quality-diversity algorithms, only requiring a free-form description of the task in common language. To address the difficulty of designing relevant fitness and diversity metrics, we propose an autonomous exploration mechanism able to reliably output sets of functionals covering the fitness and behavior descriptor (BD) space. First, we pose policy exploration as a functional design problem, where the functional spaces are lower-dimensional than the full BD and fitness spaces, and propose an LLM-based exploration scheme to sample from these low-dimensional spaces without any task-specific prompts, fine-tuning or expert intervention. We adapt a multi-BD variant of the MAP-Elites success (MES) algorithm, designed to leverage the heterogeneous BD samples. Finally, through experiments based on the genesis simulator, we show that our method effectively generates archives of diverse motion primitives, outperforming classical QD algorithms with inferred and hand-written parametrizations on a set of $4$ robotic manipulation tasks.

関連論文