2026-11-04 · 出典:[ja] GIGAZINE·镜像

国家主体の情報操作に商用AIが実働投入された事例として注目される。
6段階スケールのうち4~5。OpenAIが自社サービスの悪用を評価した数値は、散発的な事案の枠を超えていた。同社は2026年10月9日に報じられた発表の中で、ロシアとイランの主体が生成AIを用いて「実在しない組織・実在しない人物」を演出する影響工作を実行し、ChatGPTがその実働に組み込まれていたとして、該当するアカウントを停止したと明らかにした。記事のURLには、妨害されたロシア側の作戦名として「Operation Dark Clark」が記されている。
特筆すべきは手法の二重構造だ。架空の団体と架空の人物——存在しない主体をAIに量産させ、独立した発信源が多数存在するかのように装う。従来、偽アカウントの人格を長期にわたり維持するには大量の人手を要したが、テキスト生成モデルはその障壁を大きく下げた。OpenAI自身が影響度を6段階中4~5と位置づけた事実は、工作網がすでに無視できない規模に達していたことの裏付けといえる。
商用モデルが国家級の情報操作の実働部隊に組み込まれた事例は、ベンダーの信頼・安全部門の負荷を直接押し上げる。検知、審査、停止という防御サイクルは利用拡大と連動して膨らみ、各国の規制議論を刺激する材料にもなる。モデルの性能が上がるほど工作の精緻さも増す——能力競争の裏で、悪用の裾野と防御コストが同じ曲線を描いて上昇する構図が浮かび上がる。
6段階中4~5という数値は、今後の類似開示と比較する際の基準点になるだろう。生成AIの脅威がもはや観測段階ではなく運用段階に入ったことを、OpenAIの今回の公表は静かに示している。
タグ: OpenAI · ChatGPT · Influence Operations · Disinformation · AI Safety
萬安算交所 AIXX · AIXX · 検証済みコンピュート取引所 · 現貨ホールへ