何が起きたか

米国防高等研究計画局（DARPA）は、自律システムの倫理的難易度と軍事作戦上の価値観への適合性を定量的に評価するためのベンチマーク開発を目指したASIMOVプログラムを完了したと発表した。同プログラムは、自律システムやアルゴリズムの開発は行わず、倫理的・法的・社会的影響に関する助言グループを設置していた。

なぜ重要か

軍の試験・評価担当者にとって重要なのは、自律システムそのものを作る話ではなく、どの軍事場面がどれだけ倫理的に難しいか、各システムがその条件で任務意図に沿って行動できるかを同じ尺度で比べる基盤をDARPAが示した点です。DARPAは、試作の生成モデル環境で難易度の異なる場面を反復検証し、開発試験・運用試験で使う共通言語の土台になるとしています。