AI智能体能替人干活，权限该给多大？腾讯云建议“先收紧、再放开”

如果原本想让AI智能体“整理”文件，却不小心说成了“清理”，它会不会直接把文件删除？

随着AI智能体从回答问题走向实际执行任务，能够自主读取、修改甚至删除文件，如何避免误操作、越权访问和数据泄露，成为用户关心的问题。

11月4日，腾讯云一位高级市场经理在乌镇接受记者采访时表示，智能体安全主要涉及三个方面：谁可以使用智能体、智能体能够执行哪些操作，以及执行结果是否可靠。

“比如想说‘整理’，不小心说成了‘清理’，智能体就有可能执行删除操作，但用户的本意并非如此。”该负责人介绍，为防止类似情况发生，腾讯云WorkBuddy设置了敏感操作审批机制。当AI准备执行需要审批的高风险操作时，会先向用户说明可能产生的后果，并询问是否继续执行。

除了操作前的确认，AI如果已经改错了文件，还能不能恢复？

该负责人介绍，WorkBuddy提供了自动备份功能。“每一轮对话修改都会备份原文件。”如果对修改结果不满意，用户可以要求AI恢复到此前的版本。

同时，腾讯云还为智能体设置了安全沙箱。“沙箱就是一个可信的办公空间。”该负责人解释，智能体只能在规定的空间内执行操作，一旦试图越过这一范围，系统就可以进行阻断，避免其直接修改或删除其他数据。

不过，有了这些安全功能，用户是否就可以放心把电脑和企业数据交给AI？

对此，该负责人建议，无论个人还是企业，刚开始使用智能体时，都不要急着开放太多权限。

“在不了解智能体执行边界和能力边界的时候，建议把相关的安全功能都开启，并且把安全的阈值降低。”该负责人举例说，“只要有删除动作就需要审批，访问敏感系统时，不直接给它打通。”

等到逐渐熟悉AI的能力后，再根据实际使用情况调整权限。哪些操作可以让AI直接完成，哪些仍然需要人工确认，可以通过黑白名单等方式加以区分，既保证安全，也避免频繁审批影响效率。

对于企业关心的数据泄露问题，该负责人还建议，首先对数据进行分级分类，明确哪些资料可以让AI直接读取，哪些需要经过审批才能读取或对外发送，哪些则完全禁止AI接触。

“通过不断调整，提升使用效率。”该负责人表示，企业可以在使用过程中逐步调整安全策略，在提高工作效率的同时，尽可能保障数据安全。

（大众新闻记者 王嘉一 张焕辰）