AI擬人化サービスの新規則施行 ユーザー保護へ多重の安全策＝中国

　サイバー空間関連を所管する「国家インターネット情報弁公室」など中国政府5部門が共同で制定した「AI擬人化インタラクション・サービス管理暫定弁法（以下、弁法）」が7月15日に施行されました。同弁法は、AI技術を用いて自然人の感情のやり取りを模倣するサービスに対して、複数の安全基準を明確に定めました。

　弁法は、サービス提供者が社会での交流の代替や依存症の誘発などをサービスの目的としてはならないと定めました。また「身分の明示」メカニズムの導入を義務付け、ユーザーが2時間以上連続して使用した場合や依存の傾向が見られた際には、警告を明確に表示することを求めました。さらに、自傷行為を助長する内容や言葉の暴力を含むコンテンツの生成を禁止し、リスクが存在する場合に介入するメカニズムを構築することも義務付けました。

　データの安全性に関しては、対話型データの暗号化を求め、ユーザーの同意なくAIモデルの学習にデータを利用することを禁じました。未成年者については、仮想的な親密関係を構築するサービスの提供を禁止し、かつ、利用時間の制限などの安全機能を備えた「未成年者モード」の設置を義務付けました。（Yan、鈴木）