日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
マルチエージェント強化学習/sim2realarXiv:2609.14567

工場におけるマルチエージェントのタスク割り当てとナビゲーションの学習:シミュレーションから実機ロボットへ

Learning Multi-Agent Task Assignment and Navigation in the Factory: from Simulation to Real Robots

シェア:XThreadsFacebookLINEはてブBluesky

LiDARとタスク情報を融合する分散型マルチエージェント強化学習FMAPPOを提案し、シミュレーションからROS2経由で実機の移動マニピュレータに展開して、工場での部品配送・回収と機械稼働率を改善した。

詳しい要約

1. どんなもの?

- 工場でのmulti-robot multi-machine tendingを対象に、decentralized MARLの実世界適用性を検討 - Feature-fusion Multi-Agent Proximal Policy Optimization (FMAPPO)を提案 - 2D LiDAR測定とタスク固有状態を融合し、安全な分散タスク割当とナビゲーションを実現 - 高忠実度ロボットシミュレーションとROS2を用いたsim-to-realパイプラインを構築 - 物理的なmobile-manipulatorプラットフォームに実装(実験中はロボットアームを無効化)

2. 先行研究と比べてどこがすごい?

- シミュレーション比較でFMAPPOが最先端ベースラインを大きな効果量で有意に上回る - parts deliveryでMAPPO比106%、SMAPPO比21%改善 - parts collectionでMAPPO比48%、SMAPPO比11%改善 - machine utilizationをMAPPO比31ポイント、SMAPPO比10ポイント向上 - collisionsをMAPPO比18%、SMAPPO比15%削減 - safety scoreをMAPPO比14ポイント、SMAPPO比6ポイント向上

3. 技術・手法の肝は?

- FMAPPOは2D LiDAR測定とタスク固有状態情報を融合する特徴融合アーキテクチャ - decentralized MARLにより、各ロボットが独立してタスク割当とナビゲーションを決定 - 高忠実度ロボットシミュレーションとROS2を組み合わせたsim-to-realパイプライン - 物理的なmobile-manipulatorプラットフォームに展開(アームは無効化) - コマンド更新頻度に対する学習方策の感度を調査

4. どうやって有効だと検証した?

- シミュレーションでMAPPOおよびSMAPPOとの比較評価を実施 - parts delivery、parts collection、machine utilization、collisions、safety scoreの指標で評価 - 実世界実験で、学習した分散方策が複数ロボットを調整し複数マシンにサービス提供することを実証 - 実世界のセンシングと制御の制約下で安全な運用を維持することを確認 - 実世界実験のビデオをオンラインで公開

5. 議論はある?

- 実世界展開におけるコマンド更新頻度の感度を調査 - 実験中はロボットアームを無効化しており、マニピュレーションを含む完全なタスクは未検証 - 実世界のセンシングと制御の制約下での安全な運用を確認 - その他の議論や限界については要旨からは不明

6. 次に読むべき論文は?

- MAPPO (Multi-Agent Proximal Policy Optimization) - SMAPPO - decentralized MARLの実世界応用に関する研究 - sim-to-real転移のための高忠実度シミュレーションとROS2の統合 - multi-robot task assignment and navigationのための特徴融合手法

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Abdalwhab Bakheet Mohamed Abdalwhab, Giovanni Beltrame, David St-Onge

分類: cs.RO, cs.LG

原文アブストラクト

Reinforcement learning (RL) has shown considerable promise for robotic decision-making, yet deploying multi-agent RL (MARL) on physical multi-robot systems in industrial environments remains challenging. This paper investigates the real-world applicability of decentralized MARL for multi-robot multi-machine tending. We propose Feature-fusion Multi-Agent Proximal Policy Optimization (FMAPPO), which fuses 2D LiDAR measurements with task-specific state information to enable safe decentralized multi-robot task assignment and navigation. A complete simulation-to-reality pipeline was developed using high-fidelity robotic simulation and ROS2 and deployed on physical mobile-manipulator platforms operating under realistic real-world conditions, with the robotic arms disabled during the experiments. We further investigate the sensitivity of the learned policy to command update frequency, an important consideration for real-world deployment. Comparative evaluation in simulation demonstrated that FMAPPO significantly outperformed state-of-the-art baselines with a large effect size, achieving improvements of 106\% and 21\% in parts delivery and 48\% and 11\% in parts collection over MAPPO and SMAPPO, respectively. FMAPPO also increased machine utilization by 31 and 10 percentage points, respectively, while reducing collisions by 18\% and 15\% and increasing the safety score by 14 and 6 percentage points compared with MAPPO and SMAPPO, respectively. Furthermore, real-world experiments demonstrated that the learned decentralized policies can coordinate multiple robots to service multiple machines while maintaining safe operation under real-world sensing and control constraints. Videos of the real-world experiment are available online https://anonymouspapers123.github.io/FMAPPO/.