自律的に物理行動をとる機械にClaudeを繋ぐ条件が、利用規約に書かれた — 観察・停止・切断時の安全状態

Anthropic が10月8日、利用規約(Usage Policy)の年次更新を公表した。発効は11月12日である^[1]。 本紙が見るべき箇所は1つに絞られる。高リスク用途の節に、自律的に物理行動をとり、傷害を起こしうるハードウェアにモデルを接続する場合の要件が 追加された^[1]。要件は3つで、資格ある操作者が装置を観察できること、必要なら停止できること、 そしてClaude が切断されても装置が安全な状態を保持できることである^[1]。 追加の理由として、発表本文は Model Hardware Standard のローンチを挙げている^[1]。 身体を持つ機械の運用条件が、機械安全の規格ではなくモデル提供者の規約として書かれた例として記録しておく。 ただし発表本文には数値が1つも無い。停止までの許容時間も、操作者の資格も、傷害の閾値も書かれていない。

追加されたのは3条件で、どれも装置側の設計義務である#

高リスク用途の要件そのものは、今回変わっていない^[1]。健康・法的権利・財務・生計・ 必須サービスへのアクセスに影響する使い方をする場合、資格ある「human in the loop」—— Claude の推奨をレビューし、必要なら変更する権限を持つ者——を置き、 AI が使われたことを影響を受ける本人に伝えることが求められる^[1]。 今回この節で行われたのは、どの種類の推奨が対象でどれが対象外かを直接答える形への書き直しと、 物理行動に関する要件の追加である^[1]。

3つ目が設計上いちばん重い。これはモデルに課された条件ではなく、装置に課された条件である。モデルが落ちても、通信が切れても、 機械は自分で安全側に倒れなければならない。クラウド推論を前提に動く機械は、 推論が届かなくなった時刻に自分が何をしているかを、あらかじめ設計で決めておく必要がある。 適用範囲は「自律的に物理行動をとり、傷害を起こしうる」装置に絞られている^[1]ため、 画面の中だけで完結するエージェントはここに入らない。

安全性を装置の側に置く、という同じ姿勢#

この3条件は、本紙がModel Hardware Standardの回で見た設計思想と地続きである。MHS では、強制される安全限界が装置の参照ファイルに 宣言として書かれる^[2]。カーネギーメロン大学の例では、人為的に起こした6種の異常が 6件とも装置が動く前に遮断された^[2]。学習された方策の内側に安全性を期待せず、 装置の記述として外から与える——その配置が、今回は契約文書の側にも現れた。

MHS の回で本紙は、当事者自身が残した但し書きを引いた。高リスクな判断でいつどのように 人間の承認を要求するかというプロトコルは、これから精緻化する段階にある、というものである^[2]。 今回の更新は、その問いの一部に規約の側から下限を与えた。観察できること、止められること、 切断時に安全側へ倒れること。言い換えれば、この3つが無い構成は、 11月12日以降は規約に適合しないということである^[1]。

兵器条項に「ドローンその他の自律移動体の武装化」が明記された#

兵器の開発に Claude を使うことは以前から禁止されていた^[1]。今回明確化されたのは、 禁止の対象に兵器を機能させるソフトウェアと部品が含まれること、およびドローンその他の自律移動体の武装化という行為が含まれることである^[1]。 発表本文は背景として、誘導制御ソフトウェアを作らせようとする試みを最近確認したと書いている^[1]。

本紙が無人揚陸艇 Caravel の回で扱ったのは、自律で動く機体そのものを量産する動きだった。今回の条項が文面上の線を 引いているのはその手前ではなく、「武装化」と「兵器を機能させるソフトウェアと部品」で ある^[1]。個別の機体がどちら側に入るかは、規約の文面だけからは決まらない。 もっとも、発表本文はこの変更について、従来のポリシーをどう執行してきたかを反映したものだと明言している^[1]。 禁止が増えたのではなく、すでにそう運用していた線を文章にした、という自己申告である。

監視条項は、移動する機械が集めたデータにも触れうる#

監視と刑事司法の節は書き直された^[1]。同意のない追跡は、リアルタイムで行われる場合でも、以前に収集されたデータの分析として行われる場合でも禁止される^[1]。 法執行・刑事司法の過程で誰を捜査・逮捕・起訴するかを決めること、推奨することには使えない^[1]。 監視を目的として設計されたツールの構築や改良も禁止される^[1]。許容される用途も明記され、 本人が同意した追跡(不正利用の監視など)、コンテンツモデレーション、ジャーナリズム、 法務リサーチが挙がっている^[1]。

この節が本紙の領域に触れるのは、カメラと LiDAR を積んで移動する機械が、 結果として人を撮り続ける装置でもあるからだ。発表本文の背景説明は、9月の脅威インテリジェンス 報告が、政治的反対者を特定し追跡する監視システムの構築に AI が使われる事例の増加を記録した、 としている^[1,3]。本紙がその報告を読んだ回で扱ったのは、国産モデルに入れたつもりの監視カメラ映像が米国の事業者に届いていたという一件だった^[3]。 ロボットが取得した映像の二次利用が「以前に収集されたデータの分析」に当たるかどうかは、 発表本文の記述からは判定できない。規約全文で確認すべき点として挙げておく。

発表側が自分で書いた、強くない部分#

この更新を能力や保護の前進として読むと、発表本文の記述と合わない。本文は冒頭で、 更新の大半は既存規則の明確化を意図したものだと書いている^[1]。 兵器と監視の両方について、実務上の執行内容の変更ではないと明記している^[1]。 高リスク要件そのものも変わっていない^[1]。実質的に新規なのは、物理行動の3条件と、 モデルへの虐待的行為の禁止である^[1]。

範囲が狭くなった箇所もある。選挙に関する節は「民主的プロセスを損なわない」に改称され、 有権者を欺く行為や選挙の妨害に焦点が絞られた^[1]。同時に、個別化した投票・選挙運動ターゲティングの一律禁止は撤回された^[1]。 他言語での有権者向け情報の作成など正当な市民活動まで覆っていたためで、 元の規則が狙っていた行為——欺瞞や有権者の個人データの悪用に依存するターゲティング——は 欺瞞的キャンペーン・監視・プライバシーの各節に残るとしている^[1]。

モデルへの虐待的行為の禁止についても、発表本文は執行手段を限定している。適用は極端な場合のみで、 通常の苛立ちや反論、ダークな創作テーマ、モデルのテストや研究には適用されない^[1]。 そして主要な執行機構は規約上の措置ではなく、Claude 自身が会話を終了できるようにした既存の仕組みのままだと書いている^[1]。

フィジカルAIから見て、何が動いて何が動いていないか#

動いていないものから書く。能力の地図は1ミリも動いていない。接触の難しさ、VLA の一般化、現場の歩留まりに触れる条項は無い。 本紙がVLAは本当に工場で使えるのかで扱った桁の違いは、規約が更新されても1件も埋まらない。

動いたのは、すでに動く機械を持っている側が何に署名するか、である。フロンティアモデルを 実機に繋いで運用している事業者にとって、11月12日以降は3つの設計要件が契約上の下限になる^[1]。 観察経路、停止経路、そしてモデルが届かなくなったときに機械が落ち着く先。 このうち3つ目は、安全を推論の外側に置くことを要求する点で、 エンドツーエンドの方策に全部を預ける設計とは相性が悪い。 MHS が装置の参照ファイルに安全限界を宣言として置いた^[2]のと、向きは同じである。

一方で、これは機械安全の規格ではなく、1社がその顧客に課す契約である。拘束するのは Anthropic のモデルを使う者だけで、他社のモデルを使う機械には及ばない。 発効日と3条件が示されただけで、誰がどう適合を確かめるのかは発表本文に書かれていない^[1]。 それでも、モデル提供者の規約に「切断されても安全な状態を保持すること」という一文が入ったことは、 身体性AIの運用が、能力の議論から運用条件の議論へ移り始めた位置を示している。 本紙がGPT-6世代を表で読んだ回で見たのは、画面を操作する能力のフロンティアだった。今回の更新が扱っているのは、 その能力をモータに繋いだときに誰が何を用意しておくべきか、という別の問いである。 先に答えが出たのは、能力ではなく条件の側だった。