E2E自動運転モデルの内部特徴を可視化、経路意図を98.3%の精度で抽出

何が起きたか

論文「Mechanistic Interpretability for End-to-End Self-Driving」が2026年10月30日、arXivに掲載された。研究では、単眼カメラを使うシンプルなエンドツーエンド（E2E）経路計画モデルの内部活性にSparse Autoencoder（SAE）を学習させ、教師なしで経路意図を98.3%の精度で復元した。SAEの特徴量を使う軽量アダプターは、特徴量を使わない同等のアダプターより軌道選択誤差を3.44%低減した。

詳細

研究は、SAEの潜在特徴をクラスタリングし、経路意図のほか、車速や制動行動に対応する構造を確認した。対になった反実仮想画像の編集では、信号機の状態や一時停止標識の有無など、シーンの変化に応じて特定の特徴量が系統的に変化した。 個別の潜在特徴を操作すると、計画器の出力である横方向の変位、曲率、制動に予測可能かつ単調な変化が現れた。論文にはコードと可視化資料も掲載されている。

Key Facts

本紙の見方

この研究の焦点は、E2E自動運転の経路計画を別のモデルで置き換えることではなく、既存モデルの内部表現を読み取り、操作できる単位に分ける点にある。単眼カメラのシンプルなモデルで経路意図を教師なしに98.3%の精度で復元した結果は、内部特徴を人が解釈できる概念と結び付ける手法としての有効性を示す。ただし、対象はこのモデルと設定に限られ、精度の値だけから複雑な実走行環境での説明可能性を判断することはできない。 重要なのは、特徴量の対応関係を観察するだけでなく、個別の潜在特徴を操作し、横方向の変位、曲率、制動の出力が予測可能かつ単調に変わることを示した点だ。画像内の信号機や一時停止標識の状態を変える反実仮想実験と合わせると、内部特徴が単なる統計的なまとまりなのか、シーンの変化や計画出力と結び付いた表現なのかを複数の方法で検討している。一方、この結果は特徴操作が実車の安全な制御につながることを示したものではない。 SAE表現を使う軽量アダプターが、使わない同等のアダプターより軌道選択誤差を3.44%低減したことは、解釈のための表現が補助的な性能改善にも利用できる可能性を示す。ここでは、内部活性から特徴を抽出し、解釈可能な表現を後段のアダプターに渡す構成が試されている。ただし、この数値だけでは改善幅の実用上の意味や、異なるモデル・データへの適用性は分からない。解釈性評価と性能改善を同じ表現で扱う試みとして位置付けられる。 次に確認すべきなのは、評価に用いたデータや条件、特徴量の再現性、複数の運転状況にまたがる一般化である。提示された要旨には、実車での検証、運転環境の範囲、誤った特徴解釈が生じる場合、安全性への影響は示されていない。98.3%の復元精度や3.44%の誤差低減を、実運用上の信頼性と結び付けるには、これらの条件を含む検証が必要になる。

なぜ重要か

論文は、SAEの特徴量が経路意図や車速・制動行動に対応し、特徴量の操作が計画器出力に予測可能な変化を与えることを示した。E2E経路計画モデルの挙動を調べる研究者にとって、内部表現の解釈と出力への影響を同じ枠組みで検討する方法となるが、実車での安全性を示す結果ではない。