日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
ヒューマン・イン・ザ・ループ/選好学習arXiv:2611.05667

失敗前にロボットを修正する:選好学習による能動的ヒューマン・イン・ザ・ループ介入

Correct Robots Before They Make Mistakes: Proactive Human-in-the-Loop Intervention via Preference Learning

シェア:XThreadsFacebookLINEはてブBluesky

XRインターフェースで将来の動作を事前確認し、望ましくない行動の前に介入できる枠組みを提案。修正を選好学習でポリシーに反映し、実機マニピュレーションで成功率を向上させた。

詳しい要約

1. どんなもの?

- 本論文は Proactive Human-in-the-Loop (PHIL) と呼ぶフレームワークを提案する。 - 目的はロボットの policy を事前に修正する proactive な介入と、preference-based な post-training。 - operator が policy 予測の将来 motion を preview し、望ましくない行動の前に介入できる。 - 介入中も policy を問い続け、XR interface で予測 trajectory を実空間に表示する。 - 実世界の 4 つの manipulation task で評価。

2. 先行研究と比べてどこがすごい?

- 比較対象は HG-DAgger。 - 5 correction episodes per condition の条件で、diffusion policy の平均 success rate を 44.0% から 70.3% へ向上。 - X-VLA では 57.8% から 76.9% へ向上。 - 成功 episode における不要な recovery behavior が減少する点も示す。 - 事後修正ではなく、失敗前の proactive 介入を可能にする点が特徴。

3. 技術・手法の肝は?

- operator が policy 予測の将来 motion を preview し、望ましくない行動の前に介入する。 - takeover 中も policy を問い続け、XR interface で予測 trajectory を物理 workspace に表示。 - 拒否された policy 予測と、同じ物理状態・同じ horizon で実行した corrective action chunks を pair にする。 - preference-based post-training により、policy がこれらの correction を好むよう学習。

4. どうやって有効だと検証した?

- 実世界の 4 つの manipulation task で評価。 - diffusion policy と pretrained vision-language-action policy (X-VLA) を使用。 - 各条件 5 correction episodes で HG-DAgger と比較。 - 平均 success rate の向上と、成功 episode での不要な recovery behavior の減少で有効性を検証。

5. 議論はある?

- 要旨からは不明。 - 明示されているのは、proactive correction を受けた policy が成功 episode で不要な recovery behavior を減らす点。 - 限界や失敗事例、operator 負荷などの議論は要旨からは不明。

6. 次に読むべき論文は?

- HG-DAgger (比較対象の human-in-the-loop 手法)。 - diffusion policy (評価に用いた policy)。 - X-VLA (pretrained vision-language-action policy)。 - preference learning / preference-based post-training 関連の研究。 - extended reality (XR) interface を用いた robot teleoperation / intervention 研究。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Xinkai Jiang, Jing Jiang, Hongyi Zhou, Pankhuri Vanjani, Ahmad Baki, Jakub Suliga, Ge Li, Zhuoyue Li, Gerhard Neumann, Rudolf Lioutikov

分類: cs.RO

原文アブストラクト

This paper presents Proactive Human-in-the-Loop (PHIL), a framework for proactive policy correction and preference-based post-training. PHIL enables operators to preview policy-predicted future motion and intervene before anticipated undesirable actions. During takeover, PHIL continues querying the policy and displaying its predicted trajectories in the physical workspace through an extended reality (XR) interface. PHIL pairs rejected policy predictions with corrective action chunks subsequently executed from the same physical state over the same horizon, and preference-based post-training encourages the policy to favor these corrections. This paper evaluates PHIL on four real-world manipulation tasks using a diffusion policy and a pretrained vision-language-action policy. With five correction episodes per condition, PHIL increases mean success rates across the evaluated tasks and demonstration budgets from 44.0% to 70.3% for the diffusion policy and from 57.8% to 76.9% for X-VLA, compared with HG-DAgger. Separately, policies trained with proactive corrections show fewer unnecessary recovery behaviors in successful episodes. Project page: https://intuitive-robots.github.io/PHIL-page/.

PR本紙発行元 EmplifAI