π₀.₅、指示文を変えずにロボットの目標タスクを切り替える手法を検証

何が起きたか

arXivに2026年10月31日掲載の論文は、ロボット基盤モデルπ₀.₅-LIBEROのシミュレーションで、指示文を変えずに目標語に対応する疎オートエンコーダー（SAE）の特徴を別の目標語の特徴へ置き換え、行動を代替タスクへ誘導する実験を報告した。層0のBatchTopK特徴を置き換えた場合、ある場面では20回中20回の試行で行動が切り替わり、ランダム特徴の置き換えでは切り替わらなかった。

詳細

結果は6つの場面と2つのLIBEROスイートで調べられ、成功の度合いは場面や介入する層によって変わった。単語単位で選んだMatryoshka型特徴の編集は、ランダムな置き換えを大きく上回らない場合が多かった。SAEを使わず、自然な大きさの2倍にした平均差ベクトルを加える方法でも、8〜10回中8〜10回の試行で行動が切り替わった。 層ごとの活性パッチングでは、カメラ語のトークンを含めない場合、物体の位置に関する目標編集は層6まで、物体の識別に関する編集は層2まで有効だった。カメラ語のトークンにもパッチングを行うと、両方で層13まで効果が確認された。

Key Facts

本紙の見方

この研究の焦点は、ロボットへの指示文そのものを書き換えず、モデル内部の目標語に対応する活性を編集して別タスクへ誘導できるかにある。層0のBatchTopK特徴の置き換えが特定場面で20回中20回成功し、ランダム特徴では切り替わらなかったことは、内部表現への介入と行動変化が結びつく例を示す。ただし、論文自身が位置づけるのはシミュレーションでの存在証明であり、実機で同じ介入が成立することや、通常の指示追従に使えることを示したものではない。 結果を一つの「目標編集能力」としてまとめるのも適切ではない。成功は6場面と2つのLIBEROスイート、層によって異なり、Matryoshka型特徴の編集はランダム置き換えを大きく上回らない場合が多かった。さらに、SAEを使わない平均差ベクトルでも8〜10回中8〜10回の切り替えが報告された。したがって、観察された制御がSAE固有の特徴の発見によるのか、より一般的な活性方向への介入でも生じるのかは、結果の読み分けに関わる。SAEを用いた介入の有効性と、SAEが不可欠かどうかは別の問いである。 層方向の結果は、介入がモデル内部のどこまで届くかを一律には扱えないことを示す。カメラ語のトークンを含めない条件では、物体位置に関する編集は層6、物体識別は層2までだったが、カメラ語もパッチングすると両方で層13まで効果があった。この差は、目標語だけの編集結果が入力中の別の語に関する活性と独立ではない可能性を示唆する。ただし、論文の結果からその作用機序が確定したとはいえない。 実運用への含意を判断するには、まずシミュレーション外で再現するか、異なる指示表現やタスクでも成功率が保たれるかを確認する必要がある。公開された要旨からは、実機評価、長期運用時の安定性、意図しない目標変更への対策は確認できない。目標を内部介入で変更できることの有用性と、指示者の意図から外れた変更をどう検出・制限するかは、別々に検証すべき論点である。

なぜ重要か

指示文が同じでも内部特徴の編集によって代替タスクへ行動が切り替わったため、π₀.₅の指示追従を評価する際には、入力文だけでなく内部表現への介入が行動に与える影響も検討対象となる。もっとも、確認されたのはπ₀.₅-LIBEROのシミュレーションであり、実機での安全性や再現性を裏づける結果ではない。