Capek 0.5: 実行中心の視覚言語モデルによる具現化知能

Capek 0.5は、実行中心の能力分類法に基づいて構築された、身体化された知能のための視覚言語モデル（VLM）である。ロボットの実行は反復的であり、各アクションがシーンと物理状態を変化させるため、知覚・推論・検証の継続的な更新が必要となる。Capek 0.5は、実行全体を中心に能力を整理するために、Spatial Reasoning、Temporal Understanding、Action Guidance、State Verificationの4つの能力ファミリーからなる分類法を導入する。各能力は、共有バックボーンから検証可能な報酬を用いた強化学習によって専門家（specialist）が獲得し、その後、重み空間マージとルーティングされたポリシー空間蒸留によって単一の推論時モデルに統合される。2Bおよび35B-A3Bスケールで実装され、包括的なベンチマーク、能力保持の制御研究、シミュレーション環境での閉ループ評価によって検証される。

既存のアプローチは、身体化された能力を孤立したタスク固有の目的に対して開発することが多く、実行全体としてそれらをどのように組織化・統合するかが未解決である。Capek 0.5は、データセットやタスクではなく、実行中の機能的役割に基づいて能力をグループ化する実行中心の能力分類法を提案し、能力の獲得と統合を体系的に行う点が新しい。また、専門家の強化学習と重み空間マージ、ポリシー空間蒸留を組み合わせることで、複数の能力を単一のモデルに保持しつつ、各能力の性能を維持する点が先行研究と異なる。

手法の核は、実行中心の能力分類法に基づく訓練パイプラインである。まず、共有バックボーンから、各能力ファミリー（Spatial Reasoning、Temporal Understanding、Action Guidance、State Verification）に対して、検証可能な報酬を用いた強化学習で専門家モデルを訓練する。次に、これらの専門家を重み空間マージ（weight-space merging）によって統合し、さらにルーティングされたポリシー空間蒸留（routed policy-space distillation）を適用して、単一の推論時モデルに凝縮する。これにより、各能力の専門性を保ちつつ、実行時に必要なすべての能力を一つのモデルで扱えるようにする。

有効性は3つの視点から検証された。第一に、Capek-StateBenchを含む包括的なベンチマークスイートで評価し、初期化モデルと比較して大部分の一致するベンチマーク行で改善を示した。第二に、専門家から統合モデルへの能力保持の制御研究を行い、4つの専門能力すべてが1つのチェックポイントに保持され、定量化された損失で維持されることを確認した。第三に、シミュレーション環境での閉ループ評価を実施し、身体化されたタスク実行への転移を示した。

要旨からは、議論の詳細は不明であるが、能力保持の損失が定量化されていることから、統合による性能低下のトレードオフが議論の対象となる可能性がある。また、Capek-StateBenchは新規ベンチマークであり、その設計や既存ベンチマークとの関係についての議論が考えられる。さらに、2Bと35B-A3Bのスケールでの実装結果の違いや、実世界への適用可能性についての議論も想定されるが、要旨には明記されていない。

要旨で参照されている関連研究として、Capek-StateBench（状態検証のための新しいベンチマーク）が挙げられる。また、能力分類法や専門家の強化学習、重み空間マージ、ポリシー空間蒸留などの手法は、関連する既存研究（例えば、モデルマージや蒸留に関する研究）と比較される可能性がある。具体的な論文名は要旨にないため、同分野の定番として、Vision-Language Models for RoboticsやEmbodied AIに関する研究、強化学習を用いたVLMの訓練、モデルマージ手法（例えば、Model Soups）などが次に読むべき候補となる。