日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
自動運転推論最適化arXiv:2609.28064

SlackDrive: 実行時余裕を活用した適応的運転推論

SlackDrive: Reclaiming Runtime Slack for Adaptive Driving Inference

シェア:XThreadsFacebookLINEはてブBluesky

運転世界行動モデルの推論コストを、実測レイテンシから計算余裕を推定して制御ステップごとに計算予算を適応配分することで削減する手法。

詳しい要約

1. どんなもの?

- 運転世界行動モデル(driving world-action models)の推論コストとリアルタイム遅延要件の衝突を解決するため、推論前に計算予算を適応的に割り当てるSlackDriveを提案。 - オフラインでのプロファイリングと静的スケジューリング後も残るランタイム変動(residual runtime variation)を活用し、実現遅延(realized latency)から利用可能な計算余裕(compute slack)を推定。 - 各制御ステップの計算予算をモデル実行前に選択し、遅延制約下での計画性能を向上させる。

2. 先行研究と比べてどこがすごい?

- 既存の加速手法はトークン、レイヤー、サンプリングステップを削減するが、ポリシーは展開前に選択され、オフラインプロファイリング後のランタイム変動を十分に活用していない。 - SlackDriveは、実現遅延を再利用して各制御ステップの計算予算を推論前に選択し、既存のプロファイリングやリソーススケジューリングを補完する。 - 厳しい遅延条件下で、DriveDreamer-Policyを用いたNAVSIM v2において、最強ベースラインと比較して遅延制約付きEPDMSを21.7%改善。フルバジェットモデルや事前設定トークンプルーニングベースラインはランタイム競合下で許容遅延エンベロープを超える。

3. 技術・手法の肝は?

- 事前推論計算アロケータ(pre-inference compute allocator)として、小さな離散予算セットの遅延と計画ユーティリティを一度プロファイリング。 - 完了したフォワードパスからオンラインで計算状態を推定し、許容遅延エンベロープ内に収まると予測される最高ユーティリティの予算を選択。 - 運転バックボーンとその計算アクチュエータを保持したまま、既存のプロファイリングとリソーススケジューリングを補完する。

4. どうやって有効だと検証した?

- NAVSIM v2データセットとDriveDreamer-Policyを用いて評価。 - 厳しい遅延レジーム下で、最強ベースラインと比較して遅延制約付きEPDMSを21.7%改善。 - フルバジェットモデルと事前設定トークンプルーニングベースラインは、ランタイム競合下で許容遅延エンベロープを超えることを確認。

5. 議論はある?

- 要旨からは不明。

6. 次に読むべき論文は?

- 要旨で参照/比較されている研究:DriveDreamer-Policy、NAVSIM v2、トークンプルーニングベースライン。 - 関連手法:driving world-action models、multimodal reasoning、future prediction、offline profiling、static scheduling、token pruning。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Xiaohuan Pei, Hengguang Zhou, Yuanhao Ban, Justin Cui, Jiaqi Feng, Haoyu Xie, Tao Huang, Pichao Wang, Yanchao Yang, Cho-Jui Hsieh

分類: cs.AI, cs.RO

原文アブストラクト

Driving world-action models improve planning by coupling multimodal reasoning with future prediction, but their growing inference cost increasingly conflicts with the real-time latency requirements of vehicle control. Existing acceleration methods reduce tokens, layers, or sampling steps with policies selected prior to deployment, yet leave residual runtime variation largely unexploited after offline profiling and static scheduling on shared onboard compute. We observe that the largest admissible compute budget varies systematically with the residual runtime state, while recent realized latency provides a direct signal of the available compute slack. Motivated by this observation, we propose \textbf{SlackDrive}, a pre-inference compute allocator that reuses realized latency to select the compute budget of each control step before model execution. SlackDrive profiles the latency and planning utility of a small discrete budget set once, estimates online compute state from completed forwards, and selects the highest-utility budget predicted to remain within the admissible latency envelope, complementing existing profiling and resource scheduling while preserving the driving backbone and its compute actuator. On NAVSIM v2 with DriveDreamer-Policy, SlackDrive improves latency-constrained EPDMS by $21.7\%$ over the strongest baseline under a stringent latency regime, while the full-budget model and preconfigured token-pruning baselines exceed the admissible latency envelope under runtime contention.

PR本紙発行元 EmplifAI