守牢“AI生成”的监管红线

提要：AI的发展势不可当，在日趋激烈的技术竞争背景下，接受并拥抱新生事物是必然选择。正因如此，划定清晰的监管红线显得更为重要，其目的不是阻碍创新，而是为了守卫普通人的安全感，防止技术反噬人存在的主体性、侵蚀人类社会运行的根基，避免在技术发展的路上舍本逐末，从而护航技术创新行稳致远。

□赵光辉

近日，AI生图的相关信息引发了人们的广泛关注。

一则新闻是“剪映”App等被查处。据报道，近期网信部门工作中发现，“剪映”“猫箱”App及“即梦AI”网站存在未有效落实人工智能生成合成内容标识规定要求等问题，违反《网络安全法》《生成式人工智能服务管理暂行办法》《人工智能生成合成内容标识办法》等法律规定。国家互联网信息办公室指导属地互联网信息办公室，依法对上述网站平台采取约谈、责令改正、警告、从严处理责任人等处置处罚措施。

就在不久前，美国人工智能公司OpenAI对外正式推出ChatGPT Images2.0模型，其最新升级的图像生成功能已经逼真到让人不安。如此背景下，此次监管部门对AI网站平台的出手尤其受到各方关注，引发围绕人工智能生成合成内容该如何看待、如何应对、如何监管等问题的广泛讨论。

AI生成照片 图源网络

技术进步的速度总是超出人们预料。初始时，AI生图还会画出破绽明显的六根手指、扭曲失真的文字图案，短短两年，鉴别真伪的难度已呈指数级上升。技术飞升的同时，应用门槛也不断降低。从国产DeepSeek的风靡，到“养龙虾”等热潮席卷网络，庞大的网民群体正迅速蜕变为新一代AI使用者，热情地拥抱体验新技术。在网络海量信息中梳理筛选逐渐成为往事，AI智能体有问必答、有求必应，正成为一种新的生活方式。

但弊端也很快浮现。用AI生成假图骗取电商“仅退款”，使用深度伪造私密照片进行敲诈勒索，伪造声音影像对亲属进行远程诈骗……AI功能丰富、应用广泛、操作简单，轻易就能成为不法分子牟利的工具。与此同时，洞悉AI底层逻辑的人则探索出更加隐蔽的牟利方式。今年3·15晚会，曝光了一些科技公司用毒信息喂食智能体，欺骗消费者非法牟利的内幕，这些披着技术外衣的套路让人防不胜防。

更值得警惕的是，AI正在打碎“耳听为虚，眼见为实”“有图有真相”这些普通人千百年来信奉的共识，在此意义上，技术如同打开了潘多拉魔盒，开始动摇法律证据、社会信任等人类社会赖以运行的基础原则。

AI的发展势不可当，在日趋激烈的技术竞争背景下，接受并拥抱新生事物是必然选择。正因如此，划定清晰的监管红线显得更为重要，其目的不是阻碍创新，而是为了守卫普通人的安全感，防止技术反噬人存在的主体性、侵蚀人类社会运行的根基，避免在技术发展的路上舍本逐末，从而护航技术创新行稳致远。

对待AI，须理性看待，科学应对。一方面，对人工智能生成合成内容必须划定主动标识的“底线”，此次监管部门出手，就是对这一底线的强调。我国现已出台《网络安全法》《生成式人工智能服务管理暂行办法》《人工智能生成合成内容标识办法》等法律规定，今后仍需根据人工智能技术应用实践拓展，不断推动立法完善。另一方面，还应紧跟技术发展，加注研发制约力量，实现智能审核、底层甄别、强制标识等。同时须做好知识普及，引导公众正确认识AI、使用AI、甄别AI，加筑心理堤坝，增强防范能力。

最重要的是依法监管，守牢“红线”。对从业者需加大人工智能领域普法、执法力度，让其自觉知法守法，不踩红线。对违法行为做到及时发现、及时查处、及时惩戒，尤其要强化追责与惩戒力度，让违法者付出付不起的代价，让监管真正长出牙齿。同步扩大全社会参与度，畅通监督举报渠道，坚决不让搅局破坏者投机得利，切实维护社会公共利益，推动人工智能健康有序发展。