日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

VLAarXiv:2611.25460

異種身体性モデルを統合訓練するフレームワークLoongForge-Embodied

LoongForge-Embodied: A Unified Framework for Training Heterogeneous Embodied Models

シェア:XThreadsFacebookLINEはてブBluesky

VLAやWorld-Actionモデルなど異なるアーキテクチャの身体性モデルを共通基盤で高速に訓練するPyTorchフレームワークを提案し、訓練スループットを最大4.38倍、評価を最大23.2倍高速化した。

詳しい要約

1. どんなもの?

- LoongForge-Embodied は、VLA (Vision-Language-Action) モデルと WAM (World-Action Model) を含む異種の embodied モデルを統一的に学習・加速する native-PyTorch フレームワーク。 - 共通抽象化層によりモデル固有実装と共有学習基盤を分離し、アーキテクチャを制約せずに cross-model で再利用可能にする。 - 学習加速に加え、egocentric data から robot data を合成するパイプラインと、シミュレータ内の並行・最適化計算を備えた評価フレームワークを統合する。

2. 先行研究と比べてどこがすごい?

- 従来は VLA や WAM の学習が計算コスト高く、異種アーキテクチャと分断された training stacks のため最適化をモデル間で再利用しにくかった。 - 本フレームワークは共通抽象化層でモデル固有実装と共有基盤を分離し、個々のアーキテクチャや実行要件を縛らずに cross-model 再利用を可能にする点が異なる。 - 代表的な VLA/WAM モデルで、対応する open-source baselines 比 1.47x–4.38x の end-to-end training throughput 改善と、同一プロトコル下で 4.1x–23.2x 高速な評価を報告。

3. 技術・手法の肝は?

- 中核は model-specific 実装と共有 training infrastructure を切り離す common abstraction layer。 - 再利用可能な acceleration mechanisms と、model-specific かつ hardware-aware な最適化を computation, execution, memory, data I/O, distributed communication の各面で組み合わせる。 - DDP と FSDP に対する FP8-based communication optimizations を含む。 - 統一 data infrastructure として egocentric data から robot data を合成する pipeline、および simulator 内の concurrency と optimized computation を支える評価 framework を統合。

4. どうやって有効だと検証した?

- 代表的な VLA モデルと WAM モデルを対象に実験を実施。 - 各モデルに対応する open-source baselines と比較し、end-to-end training throughput が 1.47x–4.38x 向上したと報告。 - 同一プロトコル下の評価で 4.1x–23.2x の高速化を報告。 - 具体的なモデル名・データセット名・評価指標は要旨からは不明。

5. 議論はある?

- 要旨からは不明。 - 明示されているのは、異種モデル間で最適化を再利用するための抽象化と、FP8-based communication を含む多面的最適化の組み合わせ。 - 個々のモデルの精度や学習安定性への影響、汎化性、限界については要旨からは不明。

6. 次に読むべき論文は?

- 要旨で参照・比較されている open-source baselines に対応する VLA モデルおよび WAM モデルの論文。 - DDP および FSDP の communication 最適化、特に FP8-based communication に関する研究。 - egocentric data からの robot data synthesis pipeline に関する研究。 - simulator を用いた embodied モデル評価の並行化・高速化に関する研究。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: LoongForge Team

分類: cs.AI

原文アブストラクト

Training Vision-Language-Action (VLA) models and World-Action Models (WAMs) is computationally expensive, while their heterogeneous architectures and fragmented training stacks make system optimizations difficult to reuse across models. To address these challenges, we present LoongForge-Embodied, a native-PyTorch framework that unifies and accelerates the training of heterogeneous embodied models. At its core, LoongForge-Embodied introduces a common abstraction layer that decouples model-specific implementations from shared training infrastructure, enabling cross-model reuse without constraining individual architectures or execution requirements. Buildingon this unified infrastructure, the framework combines reusable acceleration mechanisms with model-specific and hardware-aware optimization strategies across computation, execution, memory, data I/O, and distributed communication, including FP8-based communication optimizations for DDP and FSDP. Beyond training acceleration, LoongForge-Embodied integrates a unified data infrastructure with a pipeline for synthesizing robot data from egocentric data, and an efficient evaluation framework that supports concurrency and optimized computation in simulator. Experiments across representative VLA and WAM models demonstrate 1.47x-4.38x end-to-end training throughput improvements over their corresponding open-source baselines, as well as 4.1x-23.2x faster evaluation under the same protocols.

関連論文

  1. 1パナソニックHDなど、触覚に即応する両手作業AI「T-Rex」を共同開発研究・技術
  2. 2川崎重工業のロボット外販を報道新製品・発表
  3. 3Boston Dynamics、GlobalFoundriesでAtlasを試験へ 半導体製造で2027年初頭から半導体・GPU
  4. 4丸文、RealManのロボットアームやヒューマノイドを国内販売提携・買収
  5. 5NVIDIA、SC26で科学研究向けAIエージェントとHPC基盤を発表新製品・発表

PR・アフィリエイト広告

MINISFORUM(ミニPC)

MINISFORUM(ミニPC)の公式広告バナーMINISFORUM公式ストアを見る ↗
PR本紙発行元 EmplifAI