感知日照丨AI内容乱象屡禁不止，清朗网络空间建设任重道远

6月14日，中央网信办AI内容强制标注新规全域落地，同时“清朗·整治AI应用乱象”专项行动持续推进。近期，理想汽车遭AI批量造谣抹黑、AI伪造高考谣言引发恐慌等事件频发。AI技术在带来便利的同时，造谣引流、侵权诈骗、虚假营销等乱象滋生蔓延，侵害公众与企业权益，扰乱网络秩序，治理工作亟待深化。

AI违规生成花样百出，信息真伪辨别难度陡增。当前AI图文、短视频生成门槛极低，部分自媒体为博流量，一键批量制作虚假资讯、伪造名人言论、编造政策谣言，造谣成本近乎为零。AI换脸、人声复刻、深度伪造等技术被滥用，用于制作低俗内容、实施电信诈骗，甚至炮制虚假突发事件，误导公众认知，引发社会恐慌。此类内容传播速度快、扩散范围广，覆盖全年龄段网民，严重污染网络生态。

行业监管存在短板，技术治理体系尚不健全。AI内容治理涉及网信、公安、市场监管等多部门，职责划分不够清晰，存在监管衔接不畅问题。平台审核机制滞后，面对海量AI生成内容，人工审核难以全覆盖，算法识别准确率不足，导致违规内容漏网传播。AI内容溯源与追责机制不完善，批量造谣账号隐蔽性强，跨平台作案取证难、追责难。同时，部分平台主体责任落实不到位，为流量默许违规内容传播，加剧乱象蔓延。为此建议，多管齐下筑牢AI内容监管防线。压实平台主体责任，严格落实AI内容强制标注新规，完善审核机制，运用技术手段提升违规内容识别能力，从严处置未标注、虚假AI内容。强化部门协同监管，厘清网信、公安等部门职责，组建联合执法队伍，依托“涉AI应用乱象举报专区”，畅通举报渠道，加大对批量造谣、诈骗等行为的查处力度。完善法律法规体系，加快AI生成内容溯源、侵权追责等制度建设，明确创作者法律责任，提高违法成本。深化公众宣传引导，普及AI内容辨别知识，提升网民媒介素养，引导理性上网，共同守护清朗网络空间。