何が起きたか

論文「Don't Lose the Future: Latent-Aware 4-Bit Quantization of World Action Models」が2026年11月19日、世界行動モデル(WAM)向けの4ビット量子化手法「LAQ」を発表した。LIBERO-PlusではFast-WAMが平均成功率76.4%、Cosmos-Policyが83.3%で、いずれも16ビットモデルとの差は1.2ポイント以内だった。実機のAgileX PiPERアームでは、3タスクの平均成功率が47.0%だった。

詳細

LAQは重み・活性値・キー・バリューキャッシュを4ビットにするW4A4KV4量子化を対象とする。予測した未来の誤差が行動に与える影響を測る「reader metric」と、各誤差が何段階のデノイジングで読み出されるかを重みづける「read count」を導入し、活性値とキャッシュへの精度配分を導く。行動が参照するトークンには、デノイジング過程とキャッシュ内で追加の4ビット処理を行う「gaze-guided refinement」も用いる。論文によると、高精度分岐やタスクごとの再較正は使わない。 論文は、LAQがモデルを3.8倍に圧縮し、ポリシー全体のピークGPUメモリーを2.3倍削減、16ビットモデル比で1.66倍高速に動作したと報告した。LIBERO-Plusでは、LAQの成功率は16ビットKVキャッシュを使う各ベースラインを上回ったという。実機アームでの平均成功率は、16ビットモデルが52.0%、LAQが47.0%で、LAQはQuaRotより30.0%高かったとする。

Key Facts

論文は2026年11月19日掲載。LAQはWAM向けの4ビット量子化手法として提案された。[1]
LIBERO-Plusでの平均成功率はFast-WAMが76.4%、Cosmos-Policyが83.3%で、16ビットモデルとの差は1.2ポイント以内と報告された。[1]
論文はモデル圧縮3.8倍、ポリシー全体のピークGPUメモリー削減2.3倍、16ビットモデル比1.66倍の速度を報告した。[1]
AgileX PiPERアームの3タスクで、LAQの平均成功率は47.0%、16ビットモデルは52.0%だった。[1]
LAQは、行動に対する予測誤差の影響とデノイジング中の読み出し回数を使い、活性値とキャッシュの精度配分を決める。[1]

本紙の見方

この研究の焦点は、モデルの重みだけでなく、世界行動モデルが予測した未来の表現と、それを保持するキャッシュまで4ビット化の設計対象にした点にある。論文の説明では、既存の量子化手法は生成行動の保持を重視する一方、行動経路を保護した後に残る誤差が、予測未来の劣化を通じて生じる問題を意図的には扱っていなかった。LAQはその誤差経路に対し、行動への影響を測るreader metricと、デノイジング過程での読み出し回数を使って精度配分を定める。したがって、単に数値形式を小さくするのではなく、未来予測を何度参照するかまで量子化の配分に組み込む設計と位置づけられる。 報告された数値は、ベンチマークと実機で分けて読む必要がある。LIBERO-PlusではFast-WAMとCosmos-Policyがそれぞれ76.4%、83.3%に達し、16ビットモデルとの差が1.2ポイント以内だった一方、AgileX PiPERアームでは3タスク平均47.0%で、16ビットモデルの52.0%を下回った。これは、ベンチマーク上の近似性能が実機で同じ水準になるとは限らないことを示す結果である。ただし、タスク数は3つであり、この数値だけで実環境全般の性能差を評価することはできない。 モデル圧縮3.8倍、ポリシー全体のピークGPUメモリー削減2.3倍、速度1.66倍という論文の報告は、オンボード計算資源に制約があるロボットで、モデル規模と推論処理を両立させる設計上の意味を持つ。特にポリシー全体のメモリーを評価対象にしている点は、モデル単体の圧縮率だけで実装可能性を判断できないことを示唆する。一方、要旨には実機評価の使用ハードウェア構成、絶対的な推論時間、消費電力、各タスクの成績は記されていない。導入判断には、複数のロボットやタスクでの再現性、4ビット処理による成功率と遅延の関係、学習・再較正を要しないという設計が異なるポリシーにも適用できるかを確認する必要がある。

なぜ重要か

論文は、4ビット化によってモデルを3.8倍に圧縮し、ポリシー全体のピークGPUメモリーを2.3倍削減したと報告しており、搭載計算資源が限られるロボットで推論モデルを運用する際のメモリー制約に関わる。AgileX PiPERアームの3タスクでは16ビットモデルより成功率が低く、圧縮率だけでなく実機でのタスク性能を併せて検証する必要がある。