何が起きたか

DARPAは2017年8月16日、学習型自律システムの安全性と機能的正しさを保証する新たな研究プログラム「Assured Autonomy」を発表した。プログラムマネージャーのSandeep Neema氏は、無人車両などの進歩にもかかわらず、安全性が重要な国防用途での展開は課題があると述べた。

なぜ重要か

これは、防衛向けの無人車両や無人航空機を設計・運用する研究者や開発者にとって、学習で振る舞いが変わる自律システムを従来の試験中心の方法だけでは安全だと示しにくいという課題に直結する。DARPAは、設計時に安全性と機能の正しさを示すだけでなく、配備後も環境やシステムの変化に応じて継続的に監視・評価する技術を目指すとしており、安全性が重い用途で何を新たに検証対象にするのかが分かる。