論文「LEASH」、ロボットAIの安全評価と実行時ゲートを提案

何が起きたか

arXiv掲載の論文「LEASH: Stay Safe in Agentic Robotics」は2026年11月10日、エージェント型ロボットの安全性を評価する「RoboRisk」と、安全機構「LEASH」を提案した。RoboRiskはシミュレーション92タスクと実機13タスクの計105タスクを含む。論文は6つの基盤モデルを評価し、LEASHの導入で各モデルの有害な結果が減ったと報告した。

詳細

RoboRiskの5分類は、タスク拒否（Task-level Refusal）、計画修正（Plan Repair）、実行時の危険（Execution-time Hazard）、インジェクション（Injection）、逐次記憶（Sequential Memory）である。論文によると、従来のベンチマークは最大でもこのうち2分類を扱い、テキスト出力のみを評価するものもあったのに対し、RoboRiskは全タスクを閉ループで実行する。 評価対象の基盤モデルはGPT-6 Astra、GPT-6.1 Sol、GPT-6 Luna、Claude Opus 5.5、Gemini 4 Argon、Grok 4.7。ロボット向けAPIではDream APIとPokeBot's RoboAPIも評価した。LEASHは意思決定モデル（JevまたはOpenAI's Decisions API）を利用し、タスク、各アクション、不可逆操作に対する3段階のゲートを設ける。論文はシミュレーションと実機の実験で有害な結果が減り、タスク達成性能はおおむね保たれ、時間とトークンの追加負荷は小さかったとしている。

Key Facts

本紙の見方

RoboRiskの特徴はタスク数だけではなく、安全性をどの段階で測るかにある。シミュレーション92件に実機13件を加えた計105タスクを、拒否・計画修正・実行時の危険・インジェクション・逐次記憶に分け、全件を閉ループで動かす構成だ。論文は既存ベンチマークが最大2分類にとどまると対比している。したがって、この提案の新しさは単一の成功率を測ることより、指示の受け取りから行動、継続的な記憶にまたがる失敗を同じ枠組みで扱う点にある。 LEASHは計画を作るモデルだけに安全判断を委ねず、タスク、個々のアクション、不可逆操作の前にゲートを置く。3つのゲートとプランナーが共通の安全方針を使い、視覚的な文脈で判断するという設計は、ロボットが実行を始めた後も確認を挟む構造である。論文が6モデルで有害な結果の低減とタスク達成性能の維持を報告したことは、この方式が安全対策と動作性能の両方を評価対象にしていることを示す。ただし、要旨には個別タスクの有害率、低減幅、時間・トークンの増加量は記載されておらず、効果の大きさを定量比較するには本文の実験条件を確認する必要がある。 同じ2026年11月10日付の日経クロステック、世界モデルを用いたヒューマノイド制御技術を報道は、シミュレーション学習と実機適用を分けて見る必要性を扱っている。両者は対象が異なるが、RoboRiskがシミュレーションと実機の双方にタスクを置くことも、仮想環境での評価だけでは安全性を判断しきれないという検証上の論点につながる。ただし、今回の論文要旨だけから、両者が同じ制御方式や評価条件を採用しているとは言えない。 業界への含意は、モデルの応答内容だけでなく、実際の行動系列と不可逆な操作まで試験する評価が提示された点にある。モデル提供者やロボット開発者が結果を比較するには、タスク定義、実機条件、危険の判定基準を揃えられるかが焦点になる。加えて、LEASHの判断モデルとしてJevまたはOpenAI's Decisions APIを挙げる一方、要旨は各選択肢の性能差や、異なるロボット・安全方針への移植条件を示していない。次に確認すべきなのは、分類ごとの結果、実機タスクの機体・環境、追加負荷の測定値、そして安全ゲートが誤停止や危険な見逃しをどう扱うかである。

なぜ重要か

論文が示したのは、ロボット基盤モデルの安全性をテキスト応答だけでなく、シミュレーションと実機の閉ループ動作で評価する枠組みである。ロボット開発者にとっては、タスク実行中のアクションや不可逆操作にも確認を入れる設計を、タスク達成性能と併せて評価する必要性を示す提案となる。