何が起きたか
AnthropicはTheoremとの協業で、Claudeを用い、RISC-Vのアセンブリコード層で100超の実世界の公開ソフトウェアライブラリに安全性プロパティを証明したと発表した。同社は、AIが大規模に形式的証明を作成できるようになったとしている。あわせて、証明作業の過程で、何年も検出されていなかった不具合も見つかったとしている。
本紙の見方
今回のポイントは、AIがコードを読むだけでなく、証明そのものを大規模に生成する段階に入ったとAnthropicが主張している点である。対象が100超の公開ライブラリ、しかもRISC-Vのアセンブリコード層であることから、論点は「研究室内のデモ」ではなく、低レベル実装に対して機械的に安全性を付与できるかに移る。もっとも、発表が示しているのは適用可能性であって、どの規模のコードベースまで同じ手法が回るのか、また証明作成に必要な人手や計算資源がどこまで削減されたのかは本文だけでは確定しない。 本紙の関連記事でいえば、エアバスのグレッグ・オンバッハ氏、Physical AIの拡張課題を論考 が論じたのは、VLAの拡張に伴う計算資源とデータ負荷である。今回のAnthropicの発表は対象領域がソフトウェアだが、AIを現場に入れる際に「性能」だけでなく「証明可能性」や「安全保証」をどう組み込むかという点で接続する。Physical AIであれソフトウェア開発であれ、モデル出力をそのまま使うのではなく、検証レイヤーを追加して運用する発想が強まっているとみられる。 業界構造への含意としては、形式的検証が開発末端の品質管理ではなく、最初から開発フローに組み込まれる可能性がある。すると、競争軸はモデルの生成性能だけでなく、証明生成、バグ発見、既存コードとの整合確認を一体で回せるかに広がる。特にRISC-Vのような低レベル実装では、証明が通ること自体が採用判断の材料になり得るため、開発速度と安全性の両立が問われる。もっとも、今回の発表は公開ライブラリを対象にしており、商用ソフトや大規模レガシー資産への展開、証明の再現性、証明を維持する更新コストは未確定である。詳細は原典を参照されたい。
なぜ重要か
Anthropicの発表が事実なら、AIの役割は不具合の発見にとどまらず、証明済みの安全性を開発工程に組み込む段階に入る。ソフトウェアの安全性や監査を重視する開発現場にとって、これまで人手依存だった形式的検証の運用方法が変わる可能性がある。 ただし、対象は100超の公開ライブラリであり、実運用ソフト全体にそのまま一般化できるかは別問題である。商用コードや更新頻度の高い基盤に適用するには、証明の維持、適用範囲、必要な計算資源を確認する必要がある。