2026-11-04 · 出典:Unite AI p4

Anthropicが10月22日に発表し、Theoremと共同で進めた研究は、AIが発見したバグに「修正済み」を示すもう一つのテスト合格ではなく、数学的な証明を添えて出荷するワークフローの実現を示唆しています。
239のファジングテスト用エントリーポイント――その一つ一つが、機械によって検証された形式的証明に裏付けられました。これが、Anthropicが2026年10月22日に公表した研究の最も目を引く主張です。この研究では、Claudeが123のオープンソースライブラリから採取したコードについて、セキュリティ上の性質の証明を生成しました。
この取り組みはTheoremとの共同研究で、その対象範囲は珍しいものです。証明はRISC-Vアセンブリコードのレベルで機能します。メモリ安全性のバグが実際に潜んでいるのは、まさにこの層だからです。Anthropicによれば、Claudeの働きは欠陥の発見で止まりませんでした。モデルは発見したバグにパッチを当てた上で、修復後のプログラムが必ず正常に終了すること――64MB未満のあらゆる入力と、モデル化されたあらゆるLinuxの条件下で、メモリ安全性エラーやアサーション失敗を決して引き起こさないこと――の証明を生成したのです。
この研究の意義は、「テスト」と「証明」の違いにあります。ファジングテストは多数の入力でプログラムを動かし、偶然見つかったものを報告する手法です。試したことのない入力に対してプログラムがどう振る舞うかは、決して語れません。対照的に、機械検証された証明は形式的な仕様に照らして機械的に検証され、その仕様が記述する入力空間全体をカバーします。今回は、64MB未満のすべての入力と、モデル化されたLinux環境です。この主張が記載どおりに成り立つなら、239のエントリーポイントの一つ一つが、どれほど大量のランダムテストでも到達できない強度の保証を備えていることになります。
アセンブリレベルでの作業は、さらにハードルを引き上げます。ソースコードの解析では、コンパイル時に混入した欠陥を見落とすおそれがあります。RISC-Vアセンブリ上で性質を証明するということは、その保証がプロセッサが実際に実行する命令に直接結び付くことを意味するのです。
タグ: Anthropic · Claude · Theorem · Formal Verification · Memory Safety · RISC-V
萬安算交所 AIXX · AIXX · 検証済みコンピュート取引所 · 現貨ホールへ