感知日照丨AI谣言乱象频出侵蚀社会信用基石

张伊

不久前，北京朝阳警方通报了一起利用AI软件制造网络谣言的案件，两名嫌疑人利用公众对篮球运动的关注，使用AI技术编造针对中国女篮教练员和运动员的不实视频信息，无底线博眼球、蹭流量，对教练员和运动员进行抹黑，引发网民对立，破坏社会信任，扰乱公共秩序，给当事教练员和运动员的声誉造成严重损害，社会影响恶劣，后被朝阳警方依法刑事拘留。

此类事件中，作为被利用工具的AI软件并非罪魁祸首，但其作为不法行为的“帮凶”依然令人惊心：在有心人的键盘下，只需几行代码，一个“权威专家”便可凭空诞生，侃侃而谈；几张被篡改的图片，便能编织出引发股市震荡的“重磅消息”。当深度伪造视频中的“公众人物”发表从未有过的言论，当聊天机器人批量生成的虚假“亲身经历”在社交网络上病毒式传播，这些被滥用的AI技术如同数字幽灵，正将人们曾经熟悉和信赖的信息环境引向无法控制的方向。

AI技术滥用，首当其冲的是社会信息传播的系统性混乱。便利的AI工具大幅降低了造谣的制造成本，只要输入相关关键词，几秒之内便能生成一篇有图文有视频、时间地点人物事件清晰的“新闻稿”，而且可以批量化生产，极大提升了谣言的数量级和传播力。由AI生成的虚假信息往往模糊事实与虚构的边界，半真半假，让人难以确切分辨。大众被一股股真假难辨的信息洪流所裹挟，认知地基被悄然腐蚀，社会公信的建构变得步履维艰。

这种混乱并不只步于观念层面，而是会造成直接的实质性的社会伤害。清华大学新闻与传播学院新媒体研究中心在2024年4月发布的一份研究报告中显示，过往两年产生的AI谣言中，经济与企业类谣言占比最高，达43.71%；而一年内经济与企业类AI谣言量增速高达99.91%，其中餐饮外卖、快递配送等行业是AI谣言重灾区。一则AI生成的某食品企业“使用致癌物”的谣言，可能顷刻间摧毁一家苦心经营多年的公司，令员工生计无着；一段伪造的突发事件视频，可能引发区域性恐慌与非理性抢购，扰乱正常秩序；而使用AI技术伪造个人信息进而骗取个人财产的手段，又为电信诈骗的实施提供了便捷。每一次传播、点击、发送，都有可能将结果引向未知的深渊。

更深层次的危机，在于对社会信用体系的系统性破坏。信用作为现代社会运行的隐性支柱，依赖于真实、可验证的信息流动。当AI伪造的“公章文件”“学术报告”“信用记录”充斥市场，人们无法再轻易相信所见所闻，那些依赖信任运作的领域如金融、司法、医疗等，便会充满怀疑，人际间的信任、对机构的信任、对媒介的信任遭受破坏，最终动摇稳定与发展的根基。

面对肆虐的AI谣言乱象，我们必须以法律和体制的约束为网络言行构筑起坚实的防线。一方面，要用法规政策划定红线。法规的牙齿在于执行，必须对恶意编制、传播AI虚假信息的行为予以严惩，以儆效尤。有关部门应尽快出台专门针对AI生成内容管理的政策法规，明确界定滥用行为及其法律责任，建立并严格执行“溯源机制”，确保AI生成内容可标识、可追踪，对重要领域（如新闻、金融信息发布）的信息来源实施强制性认证。另一方面，要用平台监管补齐漏洞。各类平台作为信息传播的关键枢纽，必须压实主体责任。要加强用户协议中关于AI内容使用的明确规定，并通过高效的技术识别与人工审核，加大监管的力度与频次。对于疑似AI生成的重要信息，必须设置醒目的风险提示，保障用户的知情权。同时，必须完善内部监督与便捷的公众举报投诉渠道，确保违规信息能被及时发现、快速研判与有效处置，并对处置结果予以公示，形成治理闭环。

技术进步的车轮无法也不应倒转，但它的方向必须由人类的智慧与责任来掌舵。唯有通过缜密的法规与尽责的监管，为技术创新系上安全绳，我们才能驯服“数字幽灵”，确保技术进步真正照亮前路。