End-to-End自動運転のメカニスティック解釈可能性

- End-to-end (E2E) 自動運転モデルの内部表現を mechanistic interpretability で解析する研究。 - 単一カメラの end-to-end path planning model の内部 activations に Sparse Autoencoders (SAEs) を学習。 - SAE latents の教師なし clustering で解釈可能な構造を抽出し、planner 出力への因果的影響や実用応用まで示す。

- E2E 自動運転は planning 性能は高いが不透明で observability と trust が限られる、という課題に対し mechanistic interpretability を適用。 - SAE を E2E 運転モデルに用いて route intent・speed・braking に対応する構造を教師なしで発見。 - 特定 SAE features の視覚的 grounding と planner 出力への単調な因果効果を示す点が先行研究と比べた新規性。

- 単一カメラ E2E path planning model の内部 activations に Sparse Autoencoders (SAEs) を学習。 - SAE latents を教師なし clustering し、route intent・vehicle speed・braking と整合する構造を抽出。 - paired counterfactual image edits で feature の視覚的 grounding を検証。 - 個別 SAE latent を操作し planner 出力（lateral displacement・curvature・braking）の変化を観察。 - SAE latents 上用の軽量 adapter を学習し trajectory selection に応用。

- SAE latents の clustering により route intent を教師なしで 98.3% の精度で回復。 - paired counterfactual image edits で traffic light state や stop sign presence などの scene changes に特定 features が系統的に応答することを確認。 - 個別 SAE latents の操作が planner 出力に予測可能で単調な変化を生むことを確認。 - SAE latents を用いた adapter が trajectory selection error を 3.44% 低減し、SAE latents を除いた同等 adapter を上回ることを確認。

- 単純な単一カメラ E2E path planning model での結果であり、より複雑なモデルへの一般化は要旨からは不明。 - SAE latents が interpretability に有用な情報を捉えることを adapter の性能差で示すが、限界や失敗ケースの議論は要旨からは不明。 - 実運用での observability・trust 向上への含意は示唆されるが詳細は要旨からは不明。

- 要旨で参照/比較されている研究は明示されていない。 - 関連手法として Sparse Autoencoders (SAEs)、mechanistic interpretability、end-to-end autonomous driving、path planning model の解釈研究を次に読む候補として挙げる。