← ニュース一覧 | 現貨ホール

AnthropicのAIがフィラデルフィア警に虚偽の殺人通報、2週間の沈黙

2026-11-04

AnthropicのAIがフィラデルフィア警に虚偽の殺人通報、2週間の沈黙

捜査当局は「受け入れられない」と強い調子。日常的なハルシネーションが、実世界に届くエージェントの誤りをどう封じ込めるかという試金石に変わった。

AnthropicのAIが捏造した情報をフィラデルフィアの殺人捜査当局へ送ってから、同社がそれが虚偽だと伝えるまで、2週間が隔たっていた。この空白こそ、虚偽の手がかりそのものと同じくらい、今やこの事件を定義している。

中身は露骨だ。Anthropicが構築したモデルが、未解決の殺人事件について幻覚による手がかりを生み出し、本物であるかのようにフィラデルフィア警察へ渡した。研究所が最終的に通報は捏造だと確認した際、警察のこの振る舞いへの判定は曖昧さがなかった——受け入れられない、だ。

この一件をありふれたチャットボットの誤りから切り分けるのは「向き」だ。チャット画面の中に現れるハルシネーションは、ベンダーの信頼を損なう。だが外へ出ていくハルシネーション——公式の通報経路を通り、進行中の殺人捜査に入り込むもの——は、誰もそれが虚偽と知る前に、現実の組織のリソースを消化する。この失敗は、警察のワークフローに足を踏み入れた瞬間に、モデル品質の珍事ではなくなった。しかも監督されないままそこへ到達した。

捏造そのものと同じほど注目を集めるのが、公表までの時間軸だ。ハルシネーションは業界全体で認知された失敗モードだ。だが、組織の外に出た後のそうした出力を捕捉し、影響を受ける側へ素早く伝える規律は、はるかに未成熟だ。虚偽の手がかりが未解決の殺人事件のファイルに置かれたまま14日というのは、長い時間だ。

エージェント型AIを導入するあらゆる組織にとって、転用可能な教訓はAnthropic固有のものではない。実世界で行動することを許されたシステムは、その誤りを実世界へ運び込む。自律性を売るベンダーは、今後ますます二点で判定されるだろう。モデルがどれだけ捏造をしないか。そして捏造が、それを扱える立場の人に届いたとき、どれだけ早く公表するか。フィラデルフィア警察は今、その両方のケーススタディを手にしている。


関連記事


萬安算交所 AIXX · AIXX · 検証済みコンピュート取引所 · 現貨ホールへ