云姨夜话丨狂飙的“AI生成”要一步步告别野蛮生长了

4月30日，小红书发出一封全员内部信，宣布了公司新一轮组织升级：成立AI一级部门“Dots”和企业智能部，从产品技术、组织两方面加大对AI的投入，同时任命柯南出任总裁，全面整合社区、电商、商业化三大核心业务及公司技术体系，向CEO星矢汇报。

数日前，4月27日，小红书首次完整输出平台对AI内容的治理主张，在北京举办的首届AI治理开放日上，明确了“平台鼓励的AI内容及行为”和“平台反对的AI内容及行为”。此外，AI治理主张再次强调了创作者应对AI参与创作的内容进行主动标识，未进行标识的AI内容，平台将在识别后统一添加AI标识贴条。今年以来，小红书在AI治理上持续加码：1月19日发布《社区公约2.0》，明确反对虚假，鼓励用户对AI内容进行主动标识；2月12日发布加强自主标记AI生成合成标识的公告；3月10日发布打击AI托管运营账号的治理公告。

近期，红果短剧也持续对平台上的AI剧内容展开大规模治理，已处置超万部低质AI剧。

这些改变和治理动作的背后是AI内容的产能正在爆炸，短视频、资讯类、长视频……巨日禄AI联合创始人斯宇预测，今年夏天，“一人一天一部剧”就能成为现实。上海、杭州、深圳等地对AI短剧产业发展予以相关支持；抖音、快手、阅文等平台推出对AI短剧的扶持计划；一些上市公司也纷纷入局，抢滩AI短剧赛道。专注于AI短剧制作的“一人公司”或初创企业已经跑步入场。AI短剧的未来图景，是在人与技术的深度融合中发挥出人的创造价值。然而，AI内容泛滥，创作门槛的大幅降低，实实在在帮不少创作者突破了创作瓶颈的同时也面临“数字泔水”的倾注。在此背景下，构建契合科技伦理的协同治理体系，已不再是可有可无的附加项，而是决定AI能否实现规模化落地、行业能否行稳致远的关键变量。最近，热门AI短剧《菩提临世真人AI版》下架。这并非孤例，各大平台启动专项治理以来，下架一大批违规低质漫剧，整治重点直指内容导向不正、价值观扭曲与制作品质粗糙等突出问题。推动行业规范化发展，才有助于进一步释放AI短剧的商业潜力。

近期，一些平台因合成内容标识违法问题被依法查处。数月前，2025年9月1日零时，国家网信办、工业和信息化部、公安部、国家广播电视总局联合制定的《人工智能生成合成内容标识办法》正式生效，“标识办法”提出强制添加显式和隐式标识等规范要求，即用AI生成的每一段文字、每一张图片、每一条音频、视频，都必须强制亮明“数字身份证”。面对标注要求升级、存量内容回溯等刚性需求，单纯依赖人工审核已难以应对海量 AIGC 浪潮带来的审核压力。为此，腾讯云AI推出“AI 生成识别”能力，旨在通过前沿的多模态识别技术，助力平台在发布、审核、回溯等核心环节实现精准识别与高效打标，筑牢合规防线。这个4月，有企业发布了旨在为AI智能体提供身份与行为追溯管理的技术方案，将法规对生成合成内容的标识要求延伸至智能体领域。

4月30日，网信中国微信公众号发出消息，中央网信办在全国范围内部署开展为期4个月的“清朗·整治AI应用乱象”专项行动。本次专项行动分两个阶段开展。第一阶段为“清朗·AI应用服务典型违规问题”专项治理行动，重点整治未按规定履行大模型备案登记义务、安全审核能力不足、大模型训练语料安全、AI数据投毒、生成合成内容标识落实不到位等问题，强化AI技术源头治理。第二阶段为“清朗·整治AI信息内容乱象”专项行动，聚焦利用AI技术生成“数字泔水”、制作发布虚假信息、散播暴力低俗等不良信息、假冒仿冒他人、侵害未成年人权益、从事网络水军活动等问题，坚决清理违法不良信息，依法处置处罚违规账号、MCN机构和网站平台。

“万物皆可生成”，技术秒进，内容多态，AI治理没有公式，但规则和秩序是平台与用户互动的底色。当越来越多平台开始思考与AI的距离，狂飙的“AI生成”才能更快告别野蛮生长。

这个4月举办的2026年世界互联网大会亚太峰会上，全球AI治理也成为参会各方关注焦点，也反映出AI治理已成为全球治理的关键一环。

大众新闻·齐鲁壹点 王赟