DARPA、自律兵器の倫理評価プログラム「ASIMOV」を開始 7社と契約

何が起きたか

米国防高等研究計画局（DARPA）は2024年12月19日、自律兵器システムの倫理的難易度を客観的かつ定量的に測定するためのベンチマーク開発を目指すプログラム「ASIMOV（Autonomy Standards and Ideals with Military Operational Values）」を発表した。DARPAは7つの研究機関と契約を結び、それぞれが異なるアプローチでこの課題に取り組む。

詳細

ASIMOVプログラムは、将来の自律性ユースケースの倫理的難易度と、軍事作戦上の価値観の文脈で自律システムがそれらのユースケースを実行する準備ができているかを、客観的かつ定量的に測定するベンチマークの開発を目的とする。DARPAは、このプログラムは兵器を構築するものではなく、自律システムを開発するものでもなく、自律システムのアルゴリズムを設計するものでもなく、すべての自律システムの基準や理想を開発するものでもなく（焦点は自律兵器システム）、定性的なベンチマークの開発に焦点を当てたものでもないと明言している。 プログラム名は、SF作家アイザック・アシモフに由来する。アシモフは1942年に「ロボット工学三原則」を発表し、ロボットの基本的な倫理を提唱したが、その後の作品では、それらの原則を「破る」限界やエッジケースを探求し、しばしば人間にとって悲惨な結果をもたらすことを描いた。DARPAは、急速な発展と普及が進む自律技術とAI技術に対し、技術的な能力だけでなく、人間の期待に従う倫理的な能力を測定・評価するための、堅牢で定量的な枠組みが必要だとしている。 ASIMOVプログラムのマネージャーであるT.J.クラウスティス博士は、「私たちがやろうとしていることが可能かどうかは分からないが、自律兵器システムが人間の倫理規範に従う能力を評価することは、早ければ早いほど良い会話をしなければならない」と述べている。また、「私たちがやっていることは非常に野心的だ。ASIMOVを通じて、DARPAは自律兵器の倫理に関する国家的な会話を主導するつもりだ」と語った。 契約を結んだ7つの研究機関は、CoVar, LLC、Kitware, Inc.、Lockheed Martin、RTX Technology Research Center、SAAB, Inc.、Systems & Technology Research, LLC、University of New South Walesである。彼らは、複数の理論的枠組み、定量化可能性、安全性と保証を探求している。ASIMOVのパフォーマーは、倫理的難易度が増すシナリオの反復と多様性を迅速に探求するためのプロトタイプの生成的モデリング環境を開発している。 ASIMOVは「軍事作戦上の価値観」を、軍事要員の作戦活動中の行動を導く原則、基準、または品質と定義し、指揮官の意図への遵守を重要な側面としている。プログラムは、多様な利害関係者からなる諮問グループによって導かれ、その作業の倫理的、法的、社会的影響（ELSI）を厳密に検討している。クラウスティス博士は「倫理は難しい。倫理を定量化することはさらに難しい」と述べ、「ASIMOVは無限の変数を持つ非常に複雑な問題に取り組んでいる。プログラムの初期段階で全てを理解できるとは思っていないが、賭け金が高すぎるので、できる限りのことを試さなければならない」と語った。 ASIMOVの作業は公開され、最終的に開発されるツールは世界がテストして利用できるように公開される予定である。DARPAは、ASIMOVがコミュニティをコンセンサスと必須のベンチマーク構築に導くと信じており、初期の作業はコミュニティが目標を洗練し、次に問うべき質問を特定し、自律兵器システムが人間の倫理的価値観に従う能力を定量的に評価するための基盤を築くのに役立つとしている。DARPAはまた、専門知識を持つ人々が情報を得られるように、公開のコミュニティ・オブ・インタレストを構築している。

Key Facts

なぜ重要か

ASIMOVは、自律兵器システムの倫理的評価を定量的に行うための枠組みを構築しようとする初の試みであり、軍事作戦におけるAI活用の倫理的課題に対する国家的な議論を主導する可能性がある。このプログラムは、将来の自律システムの開発と評価に影響を与える可能性がある。