305个大模型备案率仅45.9% 如何寻找破局之路？
每经记者 可杨 杨卉 每经编辑 兰素英
2023年3月15日，随着OpenAI多模态预训练大模型GPT-4的发布，国内包括百度、华为、腾讯等科技巨头，百川智能等初创企业，以及智谱AI研究院等研究机构纷纷扬帆起航，投身到人工智能(AI)大模型的开发中，试图搭上这趟时代列车，轰轰烈烈的“百模大战”也由此开启。
据《每日经济新闻》记者不完全统计，截至2024年4月底，国内共计推出了305个大模型。而截至5月16日，只有约140个大模型完成了生成式人工智能服务备案，占发布总量的45.9%。这意味着，还有约165个大模型尚未“过审”。
这一严峻现实的背后除了技术层面的难题，还有训练和推理过程中高昂算力成本的制约。即便跨过这些关卡，大模型企业如何实现商业化，依然面临众多难题。而对这场竞赛中可能被“出局”的公司来说，未来的路又在何方？
现状：305个大模型发布，约140个完成备案
GPT-4的发布在全球掀起了“大模型”热潮，面对这一新蓝海，科技巨头、初创企业以及科研院所相继开启布局，没人想错过这趟时代的列车。
据《每日经济新闻》记者不完全统计，截至今年4月底，国内共推出了约305个大模型，在过去一年推动着语言理解、图像识别等多个领域的技术进步。截至2024年5月16日，国内共有约140个大模型完成生成式人工智能服务备案，占305个大模型的约45.9%。
此前，国家网信办有关负责人就《生成式人工智能服务管理暂行办法》(以下简称《办法》)相关问题回答媒体提问时介绍，《办法》规定，利用生成式人工智能技术向中华人民共和国境内公众提供生成文本、图片、音频、视频等内容的服务，适用本办法。
在已备案的大模型中，在地域分布上，北京以70个备案大模型领跑全国，凸显了其在AI领域的集聚效应。上海和广东紧随其后，分别有28个和19个大模型备案。
而“140”这一数字同时也意味着，从备案层面来看，大约还有165个大模型依旧未通过备案，无法公开向公众提供服务。这些尚未能“过审”的大模型中，不乏一些备受关注的明星项目，包括曾号称是“国内首个ChatGPT”的元语智能大模型ChatYuan。
更多未完成备案的是“学院派”大模型。在305个大模型中，有60个大模型是由大学或研究院所研发的。或许是由于研究机构的项目更偏重学术探索，而非商业应用，备案动力可能不如企业充足。也有大模型转向“境内深度合成服务算法”备案，例如恒生电子的大模型。
一名大模型行业的创业者对记者介绍道，当前大模型相关的备案申请有点像专利申请，并不一定会通过，且申请周期较长，约为4~6个月。他表示，当下，大模型只要做To C(面向消费者)服务，就需要备案，而在B端(企业端)，一些大客户会要求大模型公司完成备案工作。
不过他同时强调，没备案的大模型也不代表就消失在市面上了，很多来自研究所、大学的大模型仅仅只用于研究，就没有动机去完成备案。
一家大模型头部企业从业人士也告诉记者，来自大学的大模型，如果只做自身学术范围内的研究，是可以不用备案的。
“百模大战”行至此时，最终留下3~5个大模型已经成为行业对于这场竞赛最终结局的共识。“大模型这个行业(到最后)可能就不存在了，未来大模型就是几个最基本的底座，只有少数的几家公司(去搞)。”行行AI董事长、顺福资本创始人李明顺此前在接受《每日经济新闻》记者采访时坦言。
难点：日活千万需年入超100亿元才能覆盖数据中心成本
算力资源的稀缺是制约大模型发展的关键瓶颈。对不少大模型来说，没能挺过一周年，难搞的算力要负很大责任。对于大模型厂商而言，目前主要的算力成本包括预训练成本和推理成本。模型推理应用阶段对算力的需求要远远高于训练阶段。
据中国工程院院士郑纬民计算，在大模型训练的过程中，70%的开销要花在算力上；推理过程中95%的花费也是在算力上。以GPT-4为例，该模型的训练需要一万块英伟达A100芯片跑上11个月。假设每块A100芯片的成本为10000美元(价格因供应商和购买数量而异)，那么一万块A100芯片的总成本约为1亿美元。
对于许多急匆匆踏上大模型赛道的创业公司或科技企业来说，在“烧”了一阵子钱后，他们绝望地发现，算力不仅越来越贵，质量也开始下降，而且可能买不到。
郑纬民表示，目前，市面上只有三类系统可支持大模型训练。其中，基于英伟达GPU的系统一卡难求；基于国产AI芯片的系统面临国产卡应用不足、生态系统有待改善的问题；而基于超级计算机的系统，虽然可在做好软硬件协同设计的情况下实现大模型训练，但需在超算机器尚未饱和的前提下操作，私人企业获得超算设备的机会并不大。
据英特尔方面介绍，在大模型领域，去年关注点更多是在模型训练上，对成本和功耗并不那么重视。彼时，企业都希望能训练一个自身的通用大模型。随着很多通用大模型被训练出来，今年关注的重点则转移到了推理。对企业来说，大模型训练出来是需要变现且能够盈利的。但目前市场上很多大模型都是开源的，性能差不多，用于训练的数据也差不多，很难通过差异化来盈利。
没有足够的资金支撑推理过程，成了很多创业者败退的重要原因。为了降低成本，部分企业正在尝试探索是否可以用CPU来做大模型推理。从当前一些案例来看，在130亿参数以下的大模型中，CPU是可以做到这一点的。
然而，即便是熬过了推理关，企业要将大模型变现仍有不小的难度。在行云集成电路创始人季宇看来，大模型的商业落地与早期互联网时代相比区别很大，边际成本仍然非常高。大模型每增加一个用户，基础设施需增加的成本是肉眼可见的，一个月几十美元的订阅费用根本不足以抵消背后高昂的成本。
更为关键的是，眼下大模型要大规模商业化，在模型质量、上下文长度等方面还有进一步诉求，不排除会进一步增加边际成本。目前来看，日活千万的通用大模型一年需超过100亿元的收入才能支撑其背后的数据中心成本，未来大模型要像互联网产业一样服务上亿人，成本一定是迈不过去的槛。
寻找新“航道”：投身应用或专注垂类细分行业
如果说“百模大战”最后的赢家只属于少数几家公司，那在这场赛事中被淘汰的公司，未来会走向何方？
昆仑万维董事长方汉此前在接受《每日经济新闻》记者采访时表示，“百模大战”会淘汰一部分公司，剩下的科技公司肯定会继续全速前进。
在行云集成电路创始人季宇看来，当下和未来两三年，大模型的商业探索会在成本和Token(大模型可以理解和生成的最小意义单位)质量上相互妥协，并逐渐分化为两派。
一派是质量优先，用高端系统打造高质量的通用大模型，寻找超级应用来覆盖高昂的成本。另一派是成本优先，用足够便宜的硬件提供基本够用的Token质量，寻找垂直场景的落地。若能在同样的成本下买到规格大得多的芯片，跑一个百亿千亿模型，支持超长上下文，商业化的空间会比今天大得多，就像曾经的显卡和游戏行业一样。
启明创投合伙人周志峰认为，当下，绝大多数的大模型企业是包着大模型的皮，裹着应用的心。拥有模型能力的团队更容易在算法、模型、数据、模型的加速方面去作优化，以做出体验更好的产品，尤其是相对那些用第三方模型纯粹做应用的公司。这一类公司其实不是模型公司，未来一定会是一家应用公司。
周志峰以字节跳动为例，从今日头条到抖音再到TikTok，背后的轴是AI驱动的推荐引擎。“字节跳动第一轮、第二轮融资的时候跟我们投资人讲得更多的故事是AI驱动的推进引擎，而今天大家不会再去说字节跳动是一家AI技术公司，只会记得是哪几个应用成就了这么大的规模。”
李明顺也持同样的观点，在不远的将来，有一部分大模型公司要转型成应用公司，因为大模型领域不需要这么多公司，有一些大模型公司的创始人有Plan A和Plan B的双计划，就是一旦其模型实在是拼不过前面的5家之后，就要被迫在一些垂直领域里面找到生存之地，它就会转型为一家应用公司。
在备案成功的大模型中，部分模型已经从通用型转变为聚焦特定领域或行业的细分垂类模型。
中科闻歌董事长王磊在接受《每日经济新闻》记者采访时坦言，在过去的半年到一年内，适当做小行业大模型，降低参数规模的趋势已经变得非常明显。真正成功的商业应用不是制造一个巨无霸，而是能够被用户广泛使用且价格适中。实用至上，不必为了面子而去追求大规模，高昂的代价会影响产品的市场推广和用户的使用，实用性才是商业发展的主导原则。
王磊表示：“在我们的大模型发布时，国外网友评价这是企业级应用的小型参数规格。我认为一般的企业可能难以承受更大规模的产品。对于文本生成任务，这个规模基本上是足够的，但对于一些特定领域的任务，还需要强化模型的能力。”
第四范式也同样坚定选择投入行业大模型。“如果说无限把模型做大，往里面放无限多的数据，最后可能会达到AGI(通用人工智能)的状态，但是在每一个垂直应用领域，我们都要平衡好能力以及代价。”第四范式创始人戴文渊此前在公司业绩沟通会上表示，从技术的角度来说，第四范式也追求AGI，但是与此同时，对于每一个客户的具体场景，也要做一定的裁剪，比如说这个考试只考数学，不一定需要让它(大模型)有解决物理问题的能力。
本文链接：305个大模型备案率仅45.9% 如何寻找破局之路？http://www.llsum.com/show-2-6243-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。
上一篇： 一箭四星！我国成功发射武汉一号等4颗卫星