筑牢技术安全与伦理治理防线,防止AI成为作恶工具
大众新闻·海报新闻 2026-11-19 17:11:03原创
王熠
近日,一张消费小票显示,6人用餐,账单金额高达51万余元,这张所谓上海和平饭店的“天价账单”在网络上引发关注,巨额酒水消费、昂贵菜品和高额服务费迅速成为讨论焦点。11月13日上海警方通报揭开了事件真相:一家互联网酒类销售公司负责人为博取关注、提升销量,组织人员利用AI软件篡改账单金额,将饭店原有酒水替换为自家销售的酒类,并制作虚假视频,通过控制账号、雇用人员代发等方式在网络传播。警方共抓获15名涉案人员,其中4人被依法采取刑事强制措施,其余11人被依法行政处罚。
这不是一张假账单那么简单。它展示了人工智能技术被恶意利用的一种现实方式:原本需要一定专业能力才能完成的图像篡改和视频制作,如今可以借助AI工具降低操作门槛;商业牟利者再将技术生成的虚假材料与组织化传播结合起来,试图以更低成本制造具有迷惑性的社会热点。技术本身没有作恶动机,但当它被用于伪造事实、侵害他人权益、牟取不当利益时,技术能力就可能成为违法行为的放大器。
人工智能越是快速发展,越需要筑牢技术安全与伦理治理防线。既要释放技术创新的巨大潜力,也必须防止技术能力被滥用,让人工智能真正服务于人、造福于社会。
人工智能的发展,正在深刻改变生产生活方式。从辅助设计、智能制造到医疗科研、教育服务,AI不断拓展人类能力的边界,提升信息处理和社会运行效率。图像生成、视频合成和智能编辑等工具,让更多人能够参与过去需要专业设备和技能才能完成的创作。这种技术普惠既值得鼓励,也正是人工智能产业持续发展的重要动力。
但技术能力的普及,并不意味着风险会自动消失。当生成、合成、编辑和传播能力越来越容易获得,恶意使用者也可能借此实施身份冒充、材料伪造、诈骗侵权、商业欺诈等行为。此次和平饭店假账单事件中,造假者并不只是修改了一张图片,而是利用AI篡改账单、替换商品信息、制作视频,再通过控制账号和雇佣代发人员形成传播链条。技术工具与组织化操作结合,使虚假内容拥有了更强的迷惑性和传播能力,也让受影响的企业和公众承受了真实损害。
这提醒我们,人工智能治理不能只关注某一条虚假内容是否被删除,也不能把责任简单推给使用者的个人自律。技术风险贯穿研发、训练、部署、应用和传播全过程。模型是否具备安全防护能力,服务提供者是否建立滥用识别机制,平台是否履行必要的审核和处置义务,使用者是否遵守法律和伦理规范,任何一个环节出现漏洞,都可能让技术能力被用于不当目的。
技术安全需要从源头做起。人工智能模型和应用服务的研发者,应当把安全要求纳入产品设计、训练测试和迭代优化过程,对可能被用于伪造身份、篡改重要凭证、实施欺诈等高风险场景开展针对性评估,完善异常使用识别、风险提示、访问控制和必要的日志留存机制。对开源模型和工具服务而言,也应在促进技术传播和创新的同时,重视其能力被二次开发、组合使用后可能产生的风险。安全不能只靠问题发生后的补救,而应当成为技术产品从设计之初就需要考虑的基本要求。
技术治理还需要让生成内容的来源更加透明。我国《人工智能生成合成内容标识办法》自2025年9月1日起施行,明确提出对符合规定情形的人工智能生成合成内容添加显式标识和隐式标识,并对服务提供者、内容传播平台和使用者的相关责任作出规定。显式标识让公众能够直观识别内容是否经过生成合成,隐式标识则将相关信息写入文件元数据,为内容来源追溯提供技术支持。传播平台还应根据文件标识、用户声明和检测到的生成合成痕迹,采取相应提示措施。
这类制度安排的意义,不是简单地给AI内容贴上标签,而是努力建立从生成到传播的可识别、可追溯机制,让公众在面对数字内容时拥有更多判断依据,也让相关主体的责任更加清晰。当然,内容标识不是鉴定真实性的万能工具。AI生成内容并不等于虚假内容,经过AI修改的内容也不能仅凭是否标识就判断其全部法律性质。标识机制需要与技术检测、平台管理、证据留存和执法调查相配合,才能构成更有效的安全防线。
如果说技术安全解决的是“能否防住风险”的问题,那么伦理治理回答的则是“技术应该朝什么方向发展”的问题。人工智能拥有强大的信息生成和处理能力,但这种能力不能脱离人的价值和社会责任。利用AI制造虚假账单、冒用企业名义、操纵公众认知,损害的不仅是特定企业的商誉,也触及商业诚信、社会信任和公共利益的底线。技术可以被用于提高营销效率,却不能成为欺骗消费者的工具;可以帮助人们表达和创作,却不能以侵害他人合法权益为代价。
因此,人工智能伦理治理不能停留在抽象原则上,而要转化为研发和应用过程中的具体要求。研发者要重视模型偏见、数据来源、隐私保护和安全风险;服务提供者要明确使用规则,建立风险控制机制;企业和机构在部署AI时,应当审视应用场景可能带来的社会影响;使用者也应当对自己利用技术生成、发布和传播的内容承担责任。尤其当AI应用进入商业经营和公共服务领域,不能只衡量它能带来多少效率和收益,还要看它是否尊重人的权利、维护社会公平、符合公共利益。
法律责任同样不能缺位。AI是工具,不是可以替人承担责任的主体。无论是组织人员利用AI篡改账单,还是借助技术伪造凭证、侵犯他人权益,最终都应当依法追究具体实施者和组织者的责任。对于技术服务提供者、内容传播平台和相关经营主体,也要按照各自的法定义务承担相应责任。不能因为违法行为使用了AI,就把责任模糊成所谓“技术问题”;也不能因为技术具有通用性,就忽视其提供、部署和使用过程中的风险管理义务。
我国人工智能治理正在朝着更加系统化的方向推进。2023年施行的《生成式人工智能服务管理暂行办法》明确提出坚持发展和安全并重、促进创新和依法治理相结合,对生成式人工智能服务实行包容审慎和分类分级监管,并要求提供和使用服务遵守法律法规、尊重社会公德和伦理道德。2026年9月发布的《人工智能安全治理框架3.0》,进一步秉持以人为本、向上向善理念,延续“风险分类、技术应对、综合治理”的治理逻辑,推动提升人工智能安全治理和风险防范能力。
从一张假账单引发的事件,到面向整个产业的治理框架,二者之间并非简单的个案与政策关系,而是共同指向人工智能时代必须回答的一个问题:如何让技术能力持续增长,同时确保这种能力始终处于安全、规范、负责任的应用轨道上。
这需要技术研发、产业应用、平台运营、行业组织和监管部门共同参与。既要鼓励技术创新、拓展应用场景,也要根据风险特点完善治理措施;既要保护正常创新和合理使用,也要对恶意滥用保持必要的约束。治理的尺度应当与技术发展相适应,不能因噎废食,也不能放任风险扩散。只有把责任落实到技术研发者、服务提供者、应用机构和实际使用者,把安全要求贯穿技术全生命周期,才能在创新活力与安全边界之间形成更加稳固的平衡。
人工智能发展的终极价值,不在于让机器拥有多么惊人的能力,而在于让这种能力转化为推动社会进步、改善人类生活的积极力量。和平饭店假账单事件是一记警醒:技术越容易使用,越需要清晰的规则;工具越强大,越需要明确的责任。不能让技术进步成为违法行为的便利条件,更不能让恶意滥用损害社会对创新的信任。
人工智能向善,不是一句抽象口号,而应体现在技术研发有安全底线、产品应用有伦理约束、市场经营有法律责任、社会使用有清晰边界。筑牢技术安全与伦理治理防线,既是防止AI成为作恶工具的现实需要,也是让人工智能创新成果更好造福人民、服务社会的长远保障。
责任编辑:王熠
