何が起きたか
研究チームは2026年6月6日、VLAポリシーを軽量に実行するC++推論ランタイム「vla.cpp」を発表した。llama.cppを基盤とし、フローマッチングおよび拡散型のVLA推論パターンをネイティブにサポートする初のggml系エンジンとしている。単一のランタイムで7つのアーキテクチャ(5つのバックボーン、4つのアクションヘッド)を統一プロトコルで提供し、各モデルは自己完結型バンドルとしてパッケージ化される。
詳細
vla.cppは、キャッシュされた視覚言語プレフィックスを、クロスアテンションするアクションエキスパートが複数のソルバーステップで統合する推論パターンをサポートする。LIBERO-Objectベンチマークでは、SOTAチェックポイントと200エピソード中1エピソード以内の差に収まり、BitVLAを1.3GiBのメモリで100%の成功率で実行した。同一バンドルはコンシューマーGPUから8GB組み込みモジュールまで、3つのハードウェア層で変更なく動作する。クロスハードウェアのルーフライン分析により、バッチ1のVLA推論は計算バウンドであり、帯域幅ではなく利用率が展開の鍵であるとし、この分析から導出したIMMAラダーGEMMによりBitVLAのステップあたりレイテンシを4.5倍削減した。さらに、ALOHAアームを用いたロボット上でのストレステストを実施し、学習済みVLAが移動ターゲットに対して再計画する際のレイテンシ制約を隔離した。
Key Facts
| vla.cppはllama.cppを基盤とするC++推論ランタイムであり、フローマッチングおよび拡散VLA推論パターンをネイティブにサポートする初のggml系エンジンとされる。 | [1] |
| 単一のランタイムで7つのアーキテクチャ(5つのバックボーン、4つのアクションヘッド)を1つのリクエスト/レスポンスプロトコルで提供し、各モデルは自己完結型バンドルとしてパッケージ化される。 | [1] |
| LIBERO-ObjectでSOTAチェックポイントと200エピソード中1エピソード以内の差に収まり、BitVLAを1.3GiBのメモリで100%の成功率で実行した。 | [1] |
| 同一バンドルはコンシューマーGPUから8GB組み込みモジュールまで、3つのハードウェア層で変更なく動作する。 | [1] |
| IMMAラダーGEMMによりBitVLAのステップあたりレイテンシを4.5倍削減した。 | [1] |
なぜ重要か
VLAモデルの実用化には、実機ロボットの限られた計算資源で動作する軽量な推論基盤が不可欠である。vla.cppはその課題に対する具体的な解決策を示し、ロボットのオンボード推論の実現可能性を高める。これにより、VLA技術の研究開発が加速し、産業用ロボットやサービスロボットへの応用が進むことが期待される。