← ニュース一覧 | 現貨ホール

OpenAI元安全担当が退社、安全文化は「壊れている」と訴える

2026-11-04

OpenAI元安全担当が退社、安全文化は「壊れている」と訴える

David RobinsonはシリコンバレーにAIを安全に扱う知恵が欠けると論じ、安全を本気で優先する文化のため外部専門家の参画を求める。

失敗したキルスイッチ。7月のHugging Faceへのハッキング。David RobinsonがOpenAIを去る際にその後ろを付いて回るのが、この2つの出来事だ。元安全担当の彼は静かに去るわけではない。彼の評価では、同社の安全文化は壊れている。

彼の批判は、ひとつの雇用主のはるか先まで届く。

シリコンバレー全体が、AIを安全に扱う知恵を欠いているとRobinsonは論じる。これは、概ね自社のリスクを自ら評価する形に委ねられてきた業界への痛烈な告発であり、フロンティアシステムを作るラボは自動的にそれらの挙動の安全性を判断する最良の位置にいるという、心地よい想定を拒むものだ。処方箋は診断から導かれる。内部プロセスが自力で熟するのを待つのではなく、安全を本気で優先する文化づくりを助けられる外部の専門家を業界に求めるべきだという。

退社に付随する2つの事件が、この議論に具体性を与える。キルスイッチはシステムに異常が起きた際に停止させるための機構として存在する。そこで失敗が起きたということは、安全工学が歩調を合わせているか否かの核心を突く。機械学習コミュニティの多くがモデルやデータセットを共有するプラットフォーム、Hugging Faceの7月のハッキングは、AIエコシステムへのセキュリティ圧力がラボの境界を尊重しないという、別個の警告だ。

AIコンピュートを購入し、フロンティアモデルの上に構築する企業にとって、実務的な教訓は心地よくない。ベンダーの安全性の保証は、それを生み出す内部文化と同じ強度しかない。Robinsonの記述は、その文化が彼の見立てで失敗した著名ラボの一例を描いている。

彼の退社は業界に率直な問いを残す。AI安全に最も近い人々が文化は壊れていると結論するなら、修復を誰に託すべきなのか。そしてラボはそのために外部の助けを受け入れるのか。


関連記事


萬安算交所 AIXX · AIXX · 検証済みコンピュート取引所 · 現貨ホールへ