何が起きたか
AnthropicはUsage Policyの新しい版を公表し、11月12日に適用するとした。更新は、Claudeがより長く独立して作業するようになったことを踏まえ、自己のモデルに対する虐待的行為、選挙・欺瞞的活動、武器、監視、高リスク用途、そして物理的行動を自律的に起こすハードウェア接続時の条件を明確化したものである。同社は、これらの変更の多くは既存ルールの説明を具体化するものだとしている。
詳細
新設された「Do Not Engage in Deceptive Campaigns or Artificial Activity」は、偽アカウントや投稿で発信者を隠したり、影響工作キャンペーンのための道具や基盤を作る行為を禁じる。選挙関連では、候補者や投票方法について虚偽情報を流す、候補者や選挙当局者を装う、投票率を下げようとする行為を禁じる「Do Not Undermine Democratic Processes」に改めた。 武器については、武器の開発だけでなく、武器を機能させるソフトウェアや部品、ドローンやその他の自律車両を武装させる行為まで禁止対象を明確化した。監視・法執行では、同意なく人を追跡すること、誰を調査・逮捕・起訴するかを判断または提案するために使うこと、監視用ツールの構築・改良に使うことを禁じた。高リスク用途では、健康、法的権利、金融、生活手段、基礎的サービスへのアクセスに影響しうる場合、資格のある人間のレビューと、AI利用の通知を求めた。さらに、Model Hardware Standardを踏まえ、Claudeが傷害を与えうる自律的な物理行動を取るハードウェアに接続される場合、資格のある操作者が設備を監視して停止でき、切断時に安全状態を保持できることを条件に加えた。
Key Facts
| AnthropicはUsage Policyの新版を公表し、適用開始日を11月12日とした。 | [1] |
| 新設の「Do Not Engage in Deceptive Campaigns or Artificial Activity」は、偽アカウントや投稿、影響工作のための道具や基盤を禁じる。 | [1] |
| 選挙関連は「Do Not Undermine Democratic Processes」に改められ、虚偽情報の流布や候補者・当局者の装い、投票抑制を禁じた。 | [1] |
| 武器関連では、武器を機能させるソフトウェアや部品、ドローンなどの自律車両の武装化まで禁止対象を明確化した。 | [1] |
| 高リスク用途では、人間のレビューとAI利用の通知を求め、ハードウェア接続時は安全停止可能性と安全状態維持を条件に加えた。 | [1] |
本紙の見方
今回の更新は、Anthropicが新たに禁止対象を大きく広げたというより、Claudeの利用実態の変化に合わせて境界線を細かく引き直したものだと読める。本文では、変更の多くが既存ルールの明確化だとされており、主眼は「何を新しく禁じるか」よりも、「どの用途が既存の禁止に含まれるのか」を利用者に誤解なく示す点にある。 本紙の過去報道との接続では、Anthropic、Claudeによるフェルマーの最終定理の形式化完了を発表 が示したように、Claudeは数学や長文の推論だけでなく、より独立した作業に使われる局面が増えている。今回の政策更新は、その延長線上で、出力の質だけでなく、外部の人間や機器にどう作用するかをより強く制御しようとする動きとみられる。とくに、影響工作、武器、監視、そして自律的な物理行動という4領域を同列に扱っている点は、生成精度の問題ではなく、運用の危険性を中心に据えていることを示す。 業界構造への含意としては、LLMの競争軸が単純なベンチマークや生成能力から、運用ポリシーと実装上の安全条件へ広がっている点が大きい。AnthropicはModel Hardware Standardに触れ、ハードウェア接続時の停止条件まで明記した。これは、ロボットや自律機器に接続されるAIでは、モデル単体の性能だけでは足りず、監視者、停止手段、安全状態の保持といった制御層が製品要件になることを意味する。加えて、監視・法執行用途の禁止は、データの収集や追跡の設計段階で用途制限を入れざるを得ないことを示している。 未確定の論点は、11月12日の適用後にどの用途が実際に停止・修正されるか、また高リスク用途で求める「資格のある人間」の要件がどこまで具体化されるかである。ハードウェア接続時の安全条件についても、どのような機器構成を想定するのか、どの範囲まで「自律的な物理行動」に当たるのかが今後の焦点になる。
なぜ重要か
Anthropicは、健康・法的権利・金融・生活手段・基礎的サービスに関わる用途では人間のレビューとAI利用の通知を求めるとしている。これは、Claudeを業務に組み込む企業が、出力品質だけでなく承認手順や利用者への通知体制を整える必要があることを意味する。 また、同社はModel Hardware Standardを踏まえ、物理的行動を自律的に起こすハードウェア接続時の安全条件も追加した。ロボットや自律機器と組み合わせる事業では、停止手段と安全状態の保持が前提条件になるため、AI単体ではなく制御系を含めた設計が問われる。
日本への影響
Anthropicが物理的行動を伴うハードウェア接続時の条件を明記したことで、日本のロボットや産業機器で生成AIを使う場合も、操作者による停止手段と安全状態の確保が設計要件になりやすい。とくに、監視や法執行用途の禁止は、追跡や識別を含む用途での利用条件を厳しくするため、関連する日本企業は用途定義を詰める必要がある。