安全重視の身体化システムのための世界モデルの再考

本論文は、安全性が重要な組み込みシステム（safety-critical embodied systems）における意思決定を支援するためのWorld Modelの設計指針を提案する展望論文である。従来のWorld Modelが予測精度や視覚的忠実度を重視するのに対し、リスク情報を組み込んだ意思決定中心の研究方針としてRisk-Informed World Model (RIWM)を提唱する。RIWMは、結果（consequences）、介入（intervention）、認識論的不確実性（epistemic uncertainty）、回復可能性（recoverability）を中心に据え、意思決定に関連する表現、反事実推論、安全性重視のエピソード記憶、実行時安全性保証の4つの相互依存する能力を統合する。また、物理的・社会的・運用上の結果を区別し、行動を支持する証拠を認識論的不確実性で評価する。

従来のWorld Modelは、潜在力学の圧縮から生成的で対話的なシミュレータへと進化してきたが、高い予測尤度や視覚的忠実度が安全な意思決定に必要な証拠を保持することを保証しないと指摘する。本論文は、可能性とリスク、予測と介入、有限期間予測と累積的結果の3つの構造的不一致を特定し、これらを解決するための新しい研究の方向性を提示する点で、従来のモデル性能の改善を目指す研究とは一線を画す。

RIWMは、意思決定中心の設計として、結果、介入、認識論的不確実性、回復可能性を中心に据える。具体的には、意思決定に関連する表現（decision-relevant representation）、反事実推論（counterfactual reasoning）、安全性重視のエピソード記憶（safety-critical episodic memory）、実行時安全性保証（runtime safety assurance）の4つの能力を統合する。また、物理的・社会的・運用上の結果を区別し、行動を支持する証拠を認識論的不確実性で評価する。

要旨からは不明。本論文は展望論文であり、具体的な実験や検証方法は記載されていない。

本論文は、結果をもたらす未来の特定、反事実推論の検証、修正可能な安全性記憶の維持、学習された結果を実行可能な制約に変換すること、行動するのに十分な証拠がいつ得られたかを判断することなど、未解決の課題を議論している。また、将来のWorld Modelは、可能性の高い未来を予測するだけでなく、どの未来が重要かを特定し、経験を通じて判断を修正し、行動・修正・感覚・延期・棄権のタイミングを認識する必要があると主張する。

要旨からは、World Modelの進化に関する研究（例：潜在力学モデルから生成的シミュレータへの発展）や、安全な意思決定のためのモデル設計に関する研究が関連する。具体的には、モデルベース強化学習、反事実推論、安全クリティカルシステムにおける実行時検証などの分野の論文が挙げられる。