智能体进企业 责任不能“悬空” 丨理论周刊

●只有做到授权有边界、运行有监督、过程有记录、错误能纠正、结果可问责，才能让智能体在企业中既放得开手脚，又不脱离轨道，使智能生产力真正转化为企业高质量发展的持久动力。

智能体进企业责任不能“悬空”

□ 曲维实

人工智能加速进入企业核心经营环节，正成为现代企业制度建设必须面对的新课题。当人工智能由“提供答案”走向“执行任务”，企业必须同步回答权力如何授予、行为如何监督、责任如何落实等治理问题。

厘清责任边界

技术可以创造一个虚拟岗位，却不能创造一个虚拟责任主体。我国公司法明确，董事、监事、高级管理人员应当为公司的最大利益尽到管理者通常应有的合理注意。企业采用智能体辅助或者执行经营任务，对董事会监督、管理层决策和内部控制提出了更高要求。

从企业内部看，智能体首先带来授权边界模糊的问题。传统授权通常对应具体岗位、事项和金额，并通过层级审批、不相容岗位分离等机制加以约束。智能体则可以跨系统连续完成信息检索、方案生成、对象选择和操作执行。如果企业只向智能体提出“优化库存”等概括性目标，却没有限定可调用的数据、可采取的行动和可承受的损失，智能体就可能在完成目标的过程中不断扩大事实上的决策空间。

其次，智能体使责任链条更加复杂。一个经营结果可能由基础模型、企业知识库、外部数据、第三方插件和多个智能体共同生成，业务、技术、供应商和一线员工分别参与。出现损失后，如果企业缺少智能体清单、版本记录和操作日志，往往难以判断问题源于数据、模型、权限配置还是人工复核。技术链条越长，治理责任越容易变得模糊。

再次，效率导向可能挤压必要的人为判断。瑞典金融科技企业Klarna在公开文件中披露，其人工智能助手一度承担约七成客服对话，形成较为明显的成本节约，但企业同时强调继续保留高质量人工支持，形成智能服务与人工服务并行的模式。客户服务不仅是回答标准化问题，还涉及身份盗用、消费者困难、投诉救济等复杂情形。把短期效率指标作为评价智能体的唯一尺度，容易使管理者忽视低概率、高损失风险，并弱化员工在异常场景中的专业判断。

最后，董事会和管理层可能出现新的“技术依赖”。面对复杂模型，一些管理者容易把人工智能视为技术部门的专业事项，只看最终结论，不问数据从哪里来、模型适用于什么范围、错误率是否可接受。智能体输出越完整、表达越笃定，越可能形成自动化偏见。若重大投资、关联交易、客户授信等决策仅以“系统推荐”为依据，没有充分核验关键事实、比较其他方案，也没有记录人工判断过程，就难以体现管理者通常应有的合理注意。

完善权责闭环

智能体治理的重点，不是把所有风险消除后再应用，也不是简单设置“人工审核”按钮，而是让每一项智能行动都有授权来源、责任主体和纠偏机制。企业应把治理要求嵌入技术架构和业务流程，形成从准入、授权、运行到退出的权责闭环。

第一，以分类分级为基础，明确智能体的决策权限。企业可建立分层授权制度：对常规查询等低风险事项，允许智能体在规则范围内自主完成；对报价调整、合同生成等具有一定财务或法律影响的事项，设置金额、对象和频次阈值，实行执行前确认；对重大投资、安全生产等事项，坚持由法定治理主体和有权人员作出最终决定。

第二，以责任到人为原则，为每个重要智能体确定“治理责任人”。企业应建立覆盖自研、采购和员工自行搭建工具的智能体台账，明确业务所有人、技术维护人、数据责任人和监督部门。对于进入重要业务流程的智能体，应由相应层级管理者批准上线，并定期向董事会或其专门委员会报告应用范围、重大异常和整改情况。

第三，以最小必要权限重构数字内控。智能体的身份应当可识别，权限应当与任务相匹配，重要操作应当可记录、可回放、可撤销。可以通过权限隔离、双重确认、交易限额、沙箱运行、异常拦截和紧急停止等措施，防止智能体自主行动超出授权。对于多个智能体协同完成的任务，还应记录任务如何分解、数据如何传递、工具如何调用，避免出现“每个环节都合规，组合起来却失控”的新型风险。

第四，以全生命周期管理增强可追溯和可纠偏能力。智能体上线前，应围绕准确性、稳定性、数据安全、公平性和极端情形开展测试；运行中，应持续监测模型漂移、权限变化、异常调用和投诉反馈；发生重大问题后，应能够及时暂停、调查、修正并通知受影响主体；模型升级、数据源变化或者新增工具接口时，应重新评估风险。

第五，以人的能力提升巩固责任链条。人机协同不是让人机械点击确认，而是让人在价值判断、异常识别和责任承担中发挥作用。企业应加强人工智能素养培训，对影响客户和员工权益的决定，应保留解释、申诉和人工复核渠道。绩效评价也要从单纯计算节省多少工时，转向综合考察经营价值、风险成本和客户体验，防止“为了自动化而自动化”。

形成治理经验

智能体进入企业，是检验现代企业制度能否适应新技术、新组织和新业务的重要场景。

山东可以依托省属企业应用场景多、产业链条长的优势，在智能体分级授权、操作留痕、风险评测和责任追溯等方面先行探索，形成可复制、可推广的企业治理经验。

总之，发展智能体，既要看到它重塑生产流程、释放创新潜能的一面，也要看到它改变企业权力运行方式的一面。真正成熟的人机协同，不是让智能体代替人承担责任，而是通过技术扩大人的能力，同时通过制度强化人的责任。智能体可以成为员工的助手、组织的节点和流程的执行者，但董事会的监督责任、管理层的经营责任、业务部门的使用责任和技术部门的保障责任不能因此弱化。只有做到授权有边界、运行有监督、过程有记录、错误能纠正、结果可问责，才能让智能体在企业中既放得开手脚，又不脱离轨道，使智能生产力真正转化为企业高质量发展的持久动力。

（作者单位：清华大学经济管理学院）