给AI打上“防伪标”，守护真实底线

近日，演员王劲松的形象被AI深度伪造，制成财富诈骗视频，逼真到其本人惊呼“连我家人都分不清”。这一事件再次将AI换脸诈骗推上风口浪尖，也让我们看清了技术狂奔背后的阴影。

全国两会期间，为AI设置“安全护栏”的话题，引起多位代表委员热议。比如，全国人大代表刘晓静提出建议，建立 “AI生成内容强制标识制度”，要求视频、音频等AI生成内容必须嵌入不可去除的数字水印，引发网友热议。

事实上，我国已于2025年9月1日正式施行《人工智能生成合成内容标识办法》，明确AI生成内容必须添加标识。一方面，针对可能导致公众混淆或者误认的内容，要求添加显式标识；另一方面，要求服务提供者在生成合成内容的文件元数据中添加隐式标识，为内容溯源与责任认定提供技术保障。这一规定标志着我国AI生成内容迈入“持证上岗”的规范化时代。

然而，新规落地半年，现实却有些骨感。尽管各大平台纷纷上线了标识功能，但在短视频、图文笔记甚至直播间里，仍有大量AI内容在“隐身”传播。更糟糕的是，一些违规行为从“明面”转入了“地下”，深度伪造技术与黑灰产勾连，形成了新的产业链。今年2月，网信部门一次性处置了万余个违规账号，清理违法信息五十多万条，这些数据背后，是治理与造假之间激烈的“猫鼠游戏”。

为什么有了规定，乱象仍存？根源在于治理链条的滞后。

在源头上，虽然法律划了红线，但黑灰产却搞起了“反标识”生意。各种绕过检测的技术和服务层出不穷，甚至出现了“明码标价”的规避教程，正是“道高一尺，魔高一丈”。在传播中，平台审核往往跟不上造假速度。面对海量内容，现有的AI检测器在复杂场景下准确率大打折扣，不法分子利用本地运行开源模型等手段轻松绕过审查，让平台陷入“防不胜防”的困境。而在惩戒上，正如王劲松所言，违法成本太低，法律威慑力不足，导致一些人敢于铤而走险。

要打破这一僵局，仅靠“贴标签”是不够的，必须进一步筑牢“可识别、可追溯、可问责”的纵深防线。

首先，技术屏障必须升级。一方面，要推动AI标识技术的标准化，消除不同平台间的技术差异漏洞。另一方面，加速研发抗篡改的隐式标识技术，用AI对抗AI，提升检测精准度，让那些试图“隐身”的假内容无处遁形。

其次，权责边界必须厘清。谁生成、谁传播、谁使用，各方责任要一目了然。对于恶意删除标识、提供规避工具的黑灰产，必须从重处罚，切断其利益链条，从根源上遏制乱象。

最后，共治合力必须形成。一方面要完善跨平台的举报联动机制，让违规者“一处失信，处处受限”；另一方面，要持续普及公众的AI素养，教大家如何“看标识、辨真伪”，让虚假内容失去生存的土壤。

正如有人大代表所言，“没有安全的创新走不远、走不稳”。给AI内容打上“防伪标”，不仅是为了守护真实的底线，更是为了让技术告别野蛮生长，真正成为赋能千行百业的好帮手。唯有如此，我们才能在享受技术红利的同时，不被虚假的洪流所淹没。

(作者：朱浙萍，来源：潮新闻 ）