原创内容被判“AI生成未标识”，用户把平台告了

现在，各网络平台上由人工智能生成的内容越来越多，从广告到短剧，从图文配图到配音短视频……依据《人工智能生成合成内容标识办法》的规定，AI生成的内容需要标注，如果不标注，平台可以依法采取限流、下架、限制账号等处置措施，相关主体还可能承担相应法律责任。

如果用户自己创作的内容被平台认定为AI生成内容进行了处理，怎么办？北京互联网法院日前披露了一起相关诉讼的审理情况。

内容被判“AI生成未标识”

隐藏＋禁言一天

被告某科技公司运营的平台要求创作者对AI生成内容主动添加标识。平台用户小唐，在平台发布了案涉文字内容，本来是想分享自己的创作成果，却被平台认定为“包含AI生成内容但未标识”的违规情况。

北京互联网法院立案庭法官 高雅：因为平台规定对于创作者的内容如果有AI生成的，需要创作者主动添加标识，所以被告就把原告所发布的内容进行了隐藏，做了禁言一天的处理。原告主张内容是他自己创作的，不是AI创作的，进行了申诉，但是没有解除成功，所以起诉到了法院。

被告辩称，涉案回答经机器识别及人工复核被认定为AI生成内容，并以涉及技术秘密和算法逻辑为由主张无须向用户解释认定机制。

法院：算法是平台的

举证说明也该平台来

法院对此如何认定呢？首先，谁主张谁举证，通常情况下，证明自己的是原创，要提交创作过程的底稿，但是案涉的文字内容是一段“回答”，比较短，法院如何分配举证责任？

高雅：涉案回答属于一种即时性创作的文本，在诉讼过程中很难要求原告去提供创作的底稿、原文件这样的创作过程。但是，平台认为是AI生成的，就应该对于算法工具和运算过程由被告进行合理举证或是解释说明。

法院最后认定被告平台构成违约。

北京互联网法院立案庭（诉讼服务中心）副庭长王彦杰：法院认为，平台有权依据合同约定对涉案内容是否属于AI生成合成内容进行审查和处理，但审查及处理结果应具有合理依据。算法工具运算过程和审查结果由被告掌控，被告应就该事实进行合理举证或解释说明。被告未作适度解释说明，应对缺乏事实依据的处理承担违约责任。最终法院判决被告解除对涉案内容的隐藏，删除后台相应违规处理记录。

此案的典型意义，除了明确平台的解释说明义务，还提出平台要解决误判救济的问题。

高雅：本案也明确了，如果平台使用算法去识别AI生成的内容，并采取相应的处理措施，应该对自己的判定依据和结果去做适度的解释说明。平台应该用用户可以理解的方式去说明算法的运行机制以及误判的一些救济措施，也不能够仅仅以涉及商业秘密为由去拒绝解释，也提示平台应该积极履行解释说明的义务，保障用户的合法权益。

法院建议平台主动治理

北京互联网法院党组成员、副院长 赵长新：建议平台优化完善平台规则，以显著方式提示与各方主体有重大利害关系的内容。

赵长新：平台制定和修改规则时应公开征求意见，做出处理措施后应告知理由及依据，并设置便捷的申诉渠道，对申诉事项及时复核、客观公正作出处理。

法院建议平台对违规行为建立阶梯式处置机制，坚持过罚相当原则，根据违规程度采取警示、限制功能、暂停服务等差异化措施。法院还强调，加强信息内容管理，建立健全内容审核机制。

赵长新：在利用AI等技术手段预防、治理违规信息时，避免以技术中立为由回避审核义务。压实举证与证据留存责任，诉讼中应对违规事实、预警记录、举报材料、处置流程承担举证责任，由“被动应诉”转向“主动治理”。

（央视新闻）