← ニュース一覧 | 現貨ホール

AIによる感情操作とネット依存を並列に:上海市が未成年者の心理リスク7類を指摘

2026-11-03 · 出典:IT之家资讯·中继

AIによる感情操作とネット依存を並列に:上海市が未成年者の心理リスク7類を指摘

ビリビリ、小紅書(RED)、拼多多(PDD)など17のプラットフォームに対し、事後対応から源頭での予防へとガバナンスの重心を移すよう要請

AI顔換え(ディープフェイク)やバーチャルペルソナが生む感情操作が、プラットフォームガバナンスのリスクリストに正式に追加された。9月30日、上海市委網信弁は未成年者のネット保護に関する特別指導会議を開き、管轄内のプラットフォームに対し、未成年者に関わる心理健康リスク7類の重点的な防止を求めた。AI技術から派生する新型の侵害が、ネット依存やネットいじめと並んでリストに上がった。

ビリビリ(bilibili)、小紅書(RED)、拼多多(PDD)、喜馬拉雅(Ximalaya)、SOUL、閲文集団、miHoYoなど17の重点プラットフォームが参加した。会議はサイト・プラットフォームの主体責任を徹底させ、未成年者ネット保護特別行動を深く推進することに焦点を当て、心理健康業務の強化を現在の重点として位置づけた。会議では、特別行動期間中の未成年者に関する違法・不良情報の典型事例も通報された。

7類のリスクはコンテンツから社交まで複数の次元を網羅する。ネット依存による生活リズムの乱れ、注意力の低下、学習回避。ネットいじめによる長期的な心理的外傷。容姿・体型への不安の拡散がもたらす劣等感。自傷・自殺関連のネガティブで有害な情報の拡散に対し、未成年者の模倣を厳重に防ぐ必要性。オンライン社交の過剰による現実の交流の圧迫がもたらす社交能力の低下と、極端な対立情報による誤導のリスク。不良な価値観の伝播による価値判断への影響と行動の歪み。このうち、AI顔換えとバーチャルペルソナによる感情操作は「AI技術から派生する新型侵害リスク」として独立した項目とされ、このリストで最も新技術的特徴を持つ項目となっている。

会議では、各プラットフォームに対し、未成年者の身心健康を害する有害情報の継続的な削除に加え、リスクの内在的な原因を深く掘り起こし、アルゴリズムの調整、未成年者モードの改良・アップデート、保護・通報チャネルの最適化、高危険コンテンツの識別・処理能力の向上、AI機能の応用管理の規範化、不良マーケティング行動の厳格な管理、質の高いポジティブコンテンツ供給の拡大といった重要な施策から着手し、ガバナンスを事後対応から源頭での予防へと転換させるよう求めた。

上海市委網信弁は、今後は日常的な巡回検査、抜き取り検査と法執行を強化し、問題の顕著なプラットフォームに対し関係部門と連携して法に基づき厳格に処分するとともに、多方のリソースを統括調整し、未成年者のネットリテラシーを高め、文明的なネット利用習慣を育成していくと明らかにした。

タグ: Bilibili · Xiaohongshu · Pinduoduo · miHoYo · AI Governance · Content Moderation


萬安算交所 AIXX · AIXX · 検証済みコンピュート取引所 · 現貨ホールへ