日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
VLAarXiv:2611.04255

環境AIによる手術室ヒューマノイド自律のためのエージェント型オーケストレーション

ActOR: Ambient AI-Based Agentic Orchestration for Humanoid Autonomy in Operating Rooms

シェア:XThreadsFacebookLINEはてブBluesky

壁面カメラとロボット頭部カメラを統合したデジタルツイン上でLLMエージェントが計画し、ヒューマノイドの手術室内自律作業を実現するActORを提案・評価した。

詳しい要約

1. どんなもの?

- Operating room (OR) における humanoid の自律タスク実行を目指す研究 - ambient AI-based agentic orchestrator と humanoid robotic actor を結合する ActOR を提案 - wall-mounted ambient camera と robot の head-mounted camera を統合し shared object-level digital twin (DT) を構築 - LLM agent が DT 上で計画を立て、事前プログラム済みの locomotion/manipulation skills を実行 - シミュレーションと実環境の mock OR で評価

2. 先行研究と比べてどこがすごい?

- ambient sensing を workflow 最適化ではなく robot action 誘導に使う点が独自 - ambient AI 無しの humanoid は partial onboard observations により de novo orientation/planning が困難という課題に対処 - ambient perception により target が視野外の際の探索を 1.05 から 0.12 Explore calls/trial に削減 - closed-loop feedback で nominal 時の成功率を 46.7% から 83.3% へ向上 - perturbation 下でも 8.3% から 51.7% へ改善

3. 技術・手法の肝は?

- wall-mounted ambient camera と head-mounted camera を融合し object-level DT を生成 - LLM agent が DT 上で計画し、task-specific training 無しに事前プログラム済み skills を選択 - 実行中に DT 更新と execution outcomes を planner へフィードバック - 失敗時は retries、alternative approaches、replanning を実施 - ambient perception が scene state を提供し robot-only observations を補完

4. どうやって有効だと検証した?

- 実 room から再構成した 2 つの simulated OR で 3 タスクを評価 - target が初期視野外の条件で Explore calls を比較 - nominal execution と navigation/object-relocation/grasp perturbations を注入して成功率を比較 - physical mock OR で humanoid を用い 20 試行中 14 の single-object disposal を完了 - 場面変化後の replanning も実演

5. 議論はある?

- ambient AI-based observations が robot action planning を改善し成功率向上と探索削減をもたらすと主張 - skill outcomes と DT updates の planner へのフィードバックが multi-step task success を改善 - mock OR における multi-step disposal タスクの humanoid 自律性の feasibility を示す - 限界や一般化可能性についての詳細は要旨からは不明

6. 次に読むべき論文は?

- ambient sensing を用いた OR workflow 最適化の先行研究 - LLM agent による robot task planning 関連手法 - digital twin を用いた robot perception/planning 研究 - humanoid manipulation の perturbation 頑健性に関する研究 - 要旨で参照/比較されている個別研究は明示されていないため、上記は同分野の一般カテゴリ

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Han Zhang, Sicheng Lu, Aleks Santari, Jeffrey K. Jopling, Masaru Ishii, Mathias Unberath

分類: cs.RO

原文アブストラクト

Operating rooms (ORs) increasingly contain ambient sensing infrastructure to enable AI-based optimization of workflows and utilization. We pursue an alternative path: using ambient AI to guide robot action and optimize utilization. Deploying humanoids in the OR without ambient AI is severely limited by cumbersome de novo orientation and planning due to partial onboard observations. We posit that this can be achieved by coupling an ambient AI-based agentic orchestrator with the humanoid robotic actor, providing shared perception and execution feedback for humanoid autonomy in the OR. ActOR fuses a wall-mounted ambient camera and the robot's head-mounted camera into a shared object-level digital twin (DT). A large language model agent plans over the DT using pre-programmed locomotion and manipulation skills without task-specific training. During execution, DT updates and execution outcomes inform retries, alternative approaches, or replanning. We evaluated ActOR in simulated and physical environments. Across three tasks in two simulated ORs reconstructed from real rooms, ambient perception reduced exploration from 1.05 to 0.12 Explore calls per trial when targets were initially outside the robot's view. Closed-loop feedback increased success from 46.7% to 83.3% under nominal execution and from 8.3% to 51.7% under injected navigation, object-relocation, and grasp perturbations. In a physical mock OR with a humanoid, ActOR completed 14 of 20 single-object disposal trials and demonstrated replanning after scene changes. Ambient AI-based observations provide scene state that improves robot action planning, increasing success and reducing exploration compared with robot-only observations. Feeding skill outcomes and DT updates back to the planner improves multi-step task success. Our results show the feasibility of humanoid task autonomy for multi-step disposal tasks in a mock OR.

関連論文

PR本紙発行元 EmplifAI