何が起きたか

Anthropicは、社内の未公開研究モデルを用いてソフトウェアの脆弱性を発見した事例を公開した。記事では5件の攻撃チェーンを取り上げ、Chromeの事例では、悪意あるウェブページの読み込み後に追加操作なしでコードを実行できるとしている。

本紙の見方

今回の公開で焦点となるのは、モデルが文章を生成する能力ではなく、複数段階の脆弱性をつなぐ作業に使われたというAnthropicの報告である。ただし、示されたのは同社による事例説明であり、第三者による再現性検証や、一般利用可能なモデルで同じ結果が得られることを示すものではない。社内の未公開研究モデルを使ったという条件は、能力を評価する際に切り分けて読む必要がある。 本紙が扱ったBinghamton大学の研究チーム、AI搭載ロボットの安全性を巡る研究を発表は、LLMをロボットの計画生成に用いる際の安全性を論点としていた。今回の対象はソフトウェアの脆弱性調査であり、ロボットの計画や実機制御で同様の能力が確認されたわけではない。したがって両者を同じ能力の実証として結びつけるのではなく、モデルの利用領域ごとに、能力の評価と安全上の検証を分ける必要がある。 この事例が示す業界上の論点は、モデルを開発する側の評価手法と、脆弱性を抱えるソフトウェアの修正・開示手順との接点にある。Anthropicは対象ベンダーへの報告と、修正まで90日、さらに45日の開示猶予を説明している。これは同社が示した運用であり、他のモデル提供者や製品にも同じ手順が適用されるとは限らない。モデルの能力評価だけでなく、発見後に誰が検証し、ベンダーがどう修正し、情報をいつ公開するかが一連の管理対象になるとみられる。 一方、記事の抜粋からは、5件すべての対象製品や各攻撃チェーンの詳細、外部研究者による再現確認の有無は判断できない。未公開研究モデルと一般公開モデルの性能差や、脆弱性調査における人間の関与の範囲も、抜粋では確認できない。これらを混同せず、モデルの能力、実際の悪用可能性、修正状況を別々に追う必要がある。攻撃チェーンの残る内容や個々の技術的詳細は原典を参照されたい。

なぜ重要か

Anthropicは、Chromeの脆弱性を含む事例を対象ベンダーに報告し、修正期間と追加の開示猶予を設ける手順を示した。モデルによる脆弱性発見を扱う際は、能力の主張だけでなく、発見後のベンダー報告と公開時期の管理も評価対象になる。