群制御2026/8/23arXiv:2608.22160

AUDITA: 自律マルチエージェントシステムにおける有害事象の認証付き監査と因果帰属

AUDITA: certified auditing and causal attribution of adverse outcomes in autonomous multi-agent systems

複数のAIエージェントが協調して動くシステムで事故が起きた際、責任の所在を公平に判定する監査手法を提案。改ざん防止の記録と段階的な因果帰属エンジンを組み合わせ、単一の犯人を特定する従来手法より正確に責任を割り当てる。

詳しい要約

1. どんなもの？

AUDITAは、自律マルチエージェントシステムにおける有害な結果の責任を認定・帰属するための監査レイヤーである。各エージェント間のコマンドを改ざん防止可能な記録（tamper-evident record）と、認定された段階的因果帰属エンジン（certified, graded causal-attribution engine）を組み合わせる。システムの判定が操作不可能であることを証明し、責任の帰属をログに関する議論から証拠に基づく計算へと変換する。

2. 先行研究と比べてどこがすごい？

既存手法は、検証不能なログを読み、単一の犯人を特定するため、過決定（overdetermined）、先取り（preempted）、または不作為（omission）による結果を誤って表現する。AUDITAは、改ざん防止記録と段階的帰属を導入し、単一犯人仮定を超えて、複数エージェント間の責任を公平に分割できる点で優れている。また、判定がゲーム不可能であることを証明し、責任の誤りを約3分の1に削減する。

3. 技術・手法の肝は？

手法の核は、(1) すべてのエージェント間コマンドの改ざん防止記録（tamper-evident record）と、(2) 認定された段階的因果帰属エンジン（certified, graded causal-attribution engine）のペアリングである。証明により、ルールに従うエージェントが有罪に見えることは決してなく、責任転嫁の試みは検出・評価され、証拠に基づく監査人が認定できる正確な限界を確立する。

4. どうやって有効だと検証した？

有効性は、ライブ言語モデルパイプライン上で、標準的なjudgeベースラインの責任誤差を約3分の1に削減することで検証した。また、事故に基づく構造のベンチマークでは、単一犯人ベースラインが失敗する状況で責任を回復し、偽造（forgery）に対しても不変であることを示した。

5. 議論はある？

要旨からは、議論の詳細は不明である。ただし、証明された限界（exact limit）が示すように、証拠に基づく監査人が認定できる範囲には理論的な制約があることが示唆される。また、実世界の複雑なシステムへの適用可能性や、責任の段階的評価の解釈についての議論が考えられるが、要旨には明記されていない。

6. 次に読むべき論文は？

要旨で参照されているのは、既存のログ読み取りと単一犯人特定の手法、および標準的なjudgeベースラインである。次に読むべき論文としては、因果帰属（causal attribution）や責任分担（responsibility division）に関する既存研究、特に過決定や不作為を扱う研究が挙げられる。具体的には、Halpern and Pearlの実際的原因（actual causation）に関する研究や、Chockler and Halpernの責任と責務（responsibility and blame）の形式化が関連する。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Zhixu Du, Yiran Chen

分類: cs.AI

原文アブストラクト

Physical automation is scaling toward fleets of embodied machines commanded by an AI brain. Early deployments already run factories and warehouses at production rates beyond any human line, and their adoption is accelerating. But when their joint decisions cause harm, everyone involved has reason to blame everyone else, the machine vendor, the algorithm provider, the factory operator, the insurer, and the regulator, and no method can divide the responsibility between them. Existing methods read logs whose origin they cannot verify and name a single culprit, misrepresenting outcomes that are overdetermined, preempted, or caused by an omission. We present \audita{}, an audit layer pairing a tamper-evident record of every inter-agent command with a certified, graded causal-attribution engine. We prove its verdict cannot be gamed: a rule-following agent can never be made to look guilty, an attempt to shift blame is itself caught and graded, and we establish the exact limit of what an evidence-based auditor can certify. On live language-model pipelines it reduces the standard judge baseline's responsibility error roughly threefold; on a benchmark of accident-grounded structures it recovers responsibility where single-culprit baselines fail, and stays invariant under forgery. \audita{} turns the question of who is to blame from an argument about logs into a calculation over evidence.

arXivで原文を読む →arXiv概要ページ