日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
VLAarXiv:2610.08444

ActTune: 動作認識型の精度とGPU動作点適応によるエネルギー効率の良い視覚言語行動推論

ActTune: Action-Aware Precision and GPU Operating-Point Adaptation for Energy-Efficient Vision-Language-Action Inference

シェア:XThreadsFacebookLINEはてブBluesky

視覚言語行動ポリシーの推論において、動作クラスごとの量子化感度とGPU動作点を考慮し、タスク成功率を維持しつつ1成功タスクあたりのGPUエネルギーを削減するフレームワークを提案。

詳しい要約

1. どんなもの？

Vision-language-action (VLA) ポリシーの推論を対象に、タスク成功率を保ちつつ推論レイテンシ増加を10%以内に抑え、GPU energy per successful task を削減するフレームワーク ActTune を提案。 - アクションクラス・層・重み/活性で quantization 感度が異なる点と、数値精度が workload を変え GPU operating point を変える点に着目。 - layer-wise precision allocation と workload 依存の GPU operating-point 選択を接続。 - LIBERO で評価。

2. 先行研究と比べてどこがすごい？

state of the art と比較して mean task success を最大 2.3% 相対改善。 - 元の BF16 実装と比べ最大 2.02× 高速な推論。 - GPU operating-point adaptation により energy per successful task を最大 76.8% 削減。 - 単なる推論あたり energy 削減ではなく、成功タスクあたり energy を指標にしている点が先行研究と異なる。

3. 技術・手法の肝は？

action-aware な framework。 - 軽量 decision tree が configuration action errors から split と leaf precision configuration を直接学習し、各 policy call 前に precision を選択。 - controller が次 workload を予測し、latency budget 下で calibration した lookup table を用いて選択 GPU operating point を非同期適用。 - shared resident quantized weight bank により weight reconstruction や追加 policy evaluation なしで configuration 切替。 - requested frequency--power-cap pairs 上で operating point を選択。

4. どうやって有効だと検証した？

LIBERO（lifelong robot learning の benchmark）で検証。 - mean task success、推論速度、energy per successful task を評価。 - 元の BF16 実装および state of the art と比較。 - 詳細な実験設定や ablation は要旨からは不明。

5. 議論はある？

数値誤差が失敗を増やしたり推論が遅くなると、推論あたり energy を下げても成功タスクあたり energy は下がらないという問題意識を提示。 - タスク成功率を保ちつつレイテンシ増加を10%以内に抑える制約を設定。 - 限界や失敗事例、一般化可能性についての議論は要旨からは不明。

6. 次に読むべき論文は？

要旨で参照/比較されている研究は明示されていない。 - 関連手法として quantization、layer-wise precision allocation、GPU operating-point selection、Vision-Language-Action (VLA) policies、LIBERO benchmark が挙げられる。 - 同分野の定番として VLA モデル（例: RT-2, OpenVLA）や量子化手法（例: GPTQ, AWQ）を次に読む候補として一般名で挙げる。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Zou Qingyun, Bin Gao, Wenju Zhao, Weng-Fai Wong, Bingsheng He, Tulika Mitra

分類: cs.RO, cs.AR

原文アブストラクト

Vision-language-action (VLA) policies repeatedly invoke inference to control robots, making graphics processing unit (GPU) energy a recurring cost of task execution. Reducing energy per inference call, however, may not reduce energy per successful task if numerical errors increase failures or slower inference prolongs execution. We therefore target GPU energy per successful task while preserving task success and keeping the inference-latency increase within 10\%. Our approach builds on two observations: quantization sensitivity varies across action classes, model layers, and weights versus activations; and numerical precision changes the workload, shifting favorable GPU operating points. We introduce ActTune, an action-aware framework that connects layer-wise precision allocation with workload-dependent GPU operating-point selection over requested frequency--power-cap pairs. A lightweight decision tree learns its splits and leaf precision configurations directly from configuration action errors, then selects precision before each policy call. The controller forecasts the next workload and applies the selected GPU operating point asynchronously using a lookup table calibrated under a latency budget. A shared resident quantized weight bank enables configuration switching without weight reconstruction or additional policy evaluations. On LIBERO, a benchmark for lifelong robot learning, ActTune improves mean task success by up to 2.3\% relative to state of the art. Relative to the original BF16 implementations, it delivers up to $2.02\times$ faster inference and, with GPU operating-point adaptation, reduces energy per successful task by up to 76.8\%.

arXivで原文を読む →arXiv概要ページ

関連論文

← 論文一覧
PR本紙発行元 EmplifAI