壹点漫评|AI幻觉需持续加强“自治”

记者让豆包帮订火车票，在按照它的指示输入姓名、身份证号并选择“是否靠窗”后，被告知“席位已锁定，打开12306完成支付即可”。然而打开12306却空空如也，毫无预定痕迹。

这并不是豆包第一次“胡答应”了。之前有网友让它帮订餐馆，它给订了一家不存在的店，导航过去是一片空地；也有网友向它咨询机票退票费，它信誓旦旦说“不足百元”，结果退票后被扣了600多。

为啥做不到却还应承甚至胡编？这源于AI大模型的本质——它是个语言预测器，原理是从海量文本里学习词语、句子之间的关联，根据上下文语境，输出一个个“最有可能出现”的词。如果训练数据里有虚假信息，或缺乏足够的案例，它就可能编造内容，还说得特别自信，这就是“AI幻觉”。

但这种“乱应承”真的无法控制吗？当然不是。如果提问涉及违法、有害信息，它立刻会回复你“无法回答”。这说明，只要在设置中稍作调整——如检测到“订餐厅、买车票、预约、代下单”统一回复“不提供代办”，或每条回复都附带“信息仅供参考”，就能在很大程度上避免用户被误导。

然而当前，这类“虚假代办”依然存在，“仅供参考”也难得一见，背后或许仍是一种“功利化”考量——当下各AI品牌竞争激烈，纷纷标榜为“全能助手”，如果它时时刻刻回复你“做不了”或者刷屏式提醒“信息不保真”，可能会显得“无能”而削弱用户黏性和竞争力。于是为了提升留存率和吸引力，平台会刻意放宽输出约束，也弱化风险提示。

所以说，豆包等AI背后站着的，还是人。某些“AI幻觉”不是技术管不住，更不如说是人为操控下算法的纵容，平台的默许。

截至2025年12月底，我国已有748款生成式人工智能服务完成备案，用户规模达到6.02亿人。AI幻觉，早已从技术问题，演变为法律和社会问题。

各AI运营方，已不能再用一个轻飘飘的“幻觉”名词、一句“技术系统性BUG”来搪塞用户了。真正的智能，从来不是永不犯错，而是知错能改、尊重事实。竞争可以激烈，发展可以提速，但底线不能失守。AI要赢得人心和未来，靠的不是装全能，而是敢认不能——在“无所不能”的滤镜和“有所不为”的担当之间，后者才是长久之道。

大众新闻·齐鲁壹点评论员 孔雨童 绘画 徐进