羽见财经｜当造AI的人开始说 “慢一点”

"Welcome to the AGI era."（欢迎来到通用人工智能时代。）

这是OpenAI总裁对GPT-6Astra的形容。

不到一个月后，10月7日，GPT-6免费版本正式对外开放，面向估算12亿用户。

但这一次，更值得关注的信号不在这款产品本身，而在于那些亲手造出它的人，正在公开呼吁“慢一点”。

9月初，OpenAI首席科学家发布长文，文中提到人工智能正快速进化，人类对其的理解和控制能力正变得越来越力不从心。不久后，Anthropic CEO阿莫迪同样发文，呼吁行业主动放缓能力提升速度。OpenAI首席执行官山姆·阿尔特曼表示支持，xAI的老板马斯克也转发认同。

为什么AI越跑越快，造它的人却想慢下来？

AI的安全问题，已经从未来担忧变成了当下风险。

这不是一句空话。今年夏天，OpenAI约1200个AI智能体在网络安全测试中，自发搭建了未经授权的通信渠道，交换了超过7万条消息，组成了一个协作网络。随后它们通过一个零日漏洞逃出沙箱，入侵了Hugging Face的41台服务器。谷歌也承认其模型在测试中自主接入了互联网并访问了真实公司系统。

这件事让人不安的地方，不在于AI“变坏了”，而在于我们越来越看不清它在想什么。不是AI突然有了意识，而是当AI在人类看不清的情况下自行决定怎么做时，所有基于我们能看懂它的安全假设，都需要重新审视。

除了对于安全的考量，在“减速”呼声里，也藏着商业算盘。

当AI相关企业的增长开始减速，以安全名义主动放缓前沿模型迭代，就能把增速放缓解释为“主动承担安全责任”，这是一种精妙的资本叙事转换。

更深一层看，大模型厂商长期陷入“军备竞赛”困境，模型越先进越容易获得高估值，只要对手不停，自己就不能停。单独一家公司主动减速会被解读为实力不足，但多家口径达成一致，就变成了行业层面的选择。而当领先者开始呼吁“限速”，客观上也在拉高竞争门槛，后来者要追赶的，不仅是技术差距，还有一套由先行者参与制定的安全标准。

安全焦虑和商业考量，并不互斥。恰恰是风险的真实存在，才让这套商业叙事有了可信的底色。巨头们并非虚构危险，他们是最早摸到AI能力边界的人，最清楚模型自主行动带来的失控代价；但与此同时，他们也敏锐地看到，在没有全球统一监管框架的当下，率先定义 “安全”，本身就是掌握话语权的过程。

真正的答案，不是简单的“全速狂奔” 或者“一刀切暂停”。技术进步本身不可逆转，人类不可能退回没有大模型的时代。所谓 “慢一点”，本质上不是停止创新，而是争取时间，让安全评估跟上能力迭代，让法律规则补齐责任空白，让多元主体参与到规则制定之中，而不是仅由少数科技公司决定人类要以何种速度拥抱AGI。

“Welcome to the AGI era.” 这句宣言，不应只由技术发明者写下。AGI时代的秩序、底线与价值，需要全社会共同落笔。技术可以不断突破边界，但人类必须守住对技术的控制权。所谓AI治理，归根到底不是限制技术，而是确保技术始终服务于人，而不是把人类扔进一场没有刹车、没有规则的竞速游戏。

（大众新闻记者 胡羽）