缺算力缺钱？反倒逼出个“又能干又省钱”的小模型

用户用自然语言问一句，就能生成SQL（结构化查询语言）、读懂表结构，数据库管理和运维的专业活儿，干得有模有样。这款名叫“梅森”的垂直大模型，不久前刚通过生成式人工智能服务备案，从立项到落地，研发周期以周计。

大模型什么成本？动辄上千张高端GPU、数亿元训练投入、以年计的研发周期，对绝大多数企业来说，从零训练一个基础大模型几乎是不可能完成的任务。“梅森”凭什么这么快？

秘密在底座。“梅森”由一款名为Euler的大模型微调而来。自然语义（青岛）科技有限公司负责“打地基”，再把数据库领域的专业知识和场景数据“喂”进去，一个懂行的垂域模型就立起来了。“搞一个大模型投入太大，但有了强大的基础模型作为‘底座’，企业微调一下，很快就能推出自己的垂直模型。”该公司总经理孙燕群介绍。

这个适合垂域微调和衍生训练的“底座”，自身也有一段来历：它是一款被算力“逼”出来的轻量化基础大模型，迄今最大参数版本仅为30B（Billion，十亿），一台笔记本电脑即可完成本地微调。

这家公司2019年在青岛成立，技术底子却要追溯到更早。联合创始人何晗博士本科时出于兴趣，将词性、句法分析等语言学规则写成神经网络模型，让计算机逐步读懂自然语言，理解文字背后的结构、含义与逻辑，并将这套模型直接开源，取名HanLP。未曾想，这套模型逐渐在全球技术圈传开。如今多家头部企业、顶尖科研机构都是它的长期用户。2019年，孙燕群在开源社区发现有人花钱雇人帮忙安装HanLP，意识到使用门槛依然太高，便与何晗成立公司，为用户提供云服务。

2022年底ChatGPT发布，团队判断大语言模型是必走之路。“传统自然语言处理再强，也像个精通汉语的外国人——语法正确，但终究不是母语者，而大模型是那个‘天生就会说话’的人。”孙燕群说。

现实困境却摆在眼前：高端GPU一卡难求。他们东拼西凑，勉强搞到10台A100服务器。然而，用这10台机器训练一个千亿级模型，粗略一算要七八年。“等训练完，黄花菜都凉了。”孙燕群回忆。

怎么办？只能被迫压缩参数，往小了做。

先试6B参数，要三年；再压到3B，最后压到2.5B——一个在当时被多数同行认为“没法正常说话”的参数规模。

初步训练结果果然糟糕，逻辑混乱、答非所问，知识容量太小，一遇未知问题就开始编造。团队面临一个根本性质疑：“小模型”是不是从理论上就不可能实现有逻辑的对话？

就在这时，何晗想出了一个办法——语义前置，把本该在神经网络里费力完成的逻辑判断，提前到分词环节解决。也就是说，将高频短语甚至整个句子作为一个词元，而非传统的仅是单字或单词。这样，神经网络无需庞大参数，即可输出有逻辑的连贯语句。

还有一块硬骨头，神经网络参数的数量无法改变，怎么才能让一个“小模型”装得下更多的知识量？公司首席数学家夏志宏教授提出了一项底层革新，将AI的向量计算从实数域拓展到复数域。“实数域如同平面，复数域则多了一个维度，相当于从一张纸变成厚厚的一叠纸，面积虽小，可书写的容量反而更大。”孙燕群解释。

算力受限、资金有限，反而倒逼出颠覆性创新。实验数据令人震撼：一个0.1B的极小模型即可达到传统8B模型的效果，效率提升80倍，成本仅为原来的十分之一。

两大技术突破叠加，自然语义在2024年推出2.5B参数轻量化私有大模型——Euler大模型，支持垂直领域微调和衍生训练，具备单机离线部署能力，实测表现相当于传统15B模型。这意味着模型可在普通笔记本上微调运行，企业无需花费数百万元购置服务器。2025年3月，该模型已通过中央网信办生成式人工智能算法、模型服务双备案，成为山东省首个获批的基础大模型。

在孙燕群看来，当下AI市场早已不是“越大越好”的单一赛道，中小企业的真实刚需，是低成本、可私有化、高适配的普惠AI。山东是制造业大省，不少中小制造企业利润薄、预算有限，既承担不起千亿级模型的硬件采购和运维成本，更不敢将生产、经营、客户核心数据上传公有云，数据安全成为企业拥抱AI的最大顾虑。

轻量化方案打开了大模型普及的新路径。截至目前，该公司已为客户完成20多个私有化大模型，落地场景覆盖智能制造、现代农业、精密仪器等多个领域，还有50多家企业在排队等待部署。此外，公司还赋能垂直领域，目前已通过微调变身成垂域大模型，在垂直行业落地。

“AI早已不是大企业的专属配置，而是中小企业降本增效、逆势突围的刚需工具。”孙燕群认为，未来会有越来越多企业切入“小模型”赛道。他预判，未来一年，国内中小企业AI普及率有望突破七成，产业普惠化浪潮正在到来。下一步，团队将持续深耕复数空间算法等核心技术，推动技术迭代，持续打磨轻量化普惠AI产品，让前沿人工智能走出实验室、扎根生产线，为山东乃至全国中小制造企业数字化转型注入轻盈、强劲的科创动能。

（大众新闻记者 刘笑笑 张锡坤）