11月尾，北京召开的一场以“智算力就是创新力”为主题的人工智能盘算大会上，挤满了来自各行各业的数千位参会者。

在算力紧缺问题依旧未解的当下，人人体贴的问题，普遍围绕大模子最新创新和落地功效，以及由其带来的算力、AI infra（AI软件基础设施）等方面的创新和转变。

业界人士考察，今年很可能会是从移动互联网时代迈向智能时代的要害一年。已往从互联网转向移动互联网，人人一最先在手机上使用网页，厥后iPhone开创了手机APP举行交互。而在智能时代，未来很可能不再是点开APP，而是直接弹出一个个AI Agent（人工智能署理），去实现交流互动。

“我们现在就在所谓智能时代的iPhone时刻前期，智能的iPhone时刻随时可能发生。”IDC中国副总裁周震刚做了一个比喻。

在这种靠山下，国际数据公司（IDC）与浪潮信息在大会现场团结公布的《2023-2024年中国人工智能盘算力生长评估讲述》（以下简称讲述）也受到不少关注。

1、大模子辐射面远比想象要厚实

中国企业对天生式AI的接受水平，可能已超出你的想象。好比在一些想象不到的行业和领域已经最先投入大模子。

近期，手机公司在大模子上动作一再，包罗小米、vivo、OPPO、三星等在短短一个月内，接连亮出了10个以上的AI大模子，参数规模从十亿级、百亿级到1300亿不等。但你可能很难想象，手机背后的芯片公司，也在实验引入大模子。

好比上海的一家手机芯片上市公司，实验行使大模子解决传统客服问答系统智能水平不高的问题。已往，由于芯片品种有上千种，且涉及大量手艺专著名词、参数信息，手艺服务团队在本职事情外，需要投入大量时间辅助确认细节。而现在，他们通过大模子的语义明晰和判断推理能力，解放一线手艺工程师，实现降本提效。

生物医疗领域同样是对大模子探索较多的行业，有数据显示，今年以来，海内已公布近50款医疗大模子。医学科研、药物研发、智慧诊疗、医院治理等都是被探索的偏向。但你可能很难想象，海内一些花卉研究所，正基于大模子打造花卉AI育种大模子。

汽车界对大模子的探索也不少，包罗祥瑞、奇瑞、红旗、智己等多家车企都曾宣布接入大模子产物，人人都在争取谁能首先在智能座舱、自动驾驶等场景实现大模子落地。就连摩托车公司也不甘寥寂。好比确立于1993年的海内摩托车龙头企业——隆鑫通用，正在行使大模子的能力，打造面向消费者的“AI骑行助理”，并试图探索大模子在摩托车发念头的生产质量管控、全地形车的智能化刷新等方面的应用。

IDC和浪潮信息公布的《讲述》，也从数据层面印证了这一点——67%的中国企业已经最先探索天生式AI在企业内的应用时机或举行相关资金投入。

“中国企业尤其认可天生式AI在加速决议、提高效率、优化用户和员工体验等维度带来的价值，并将在未来三年延续提高投入力度，跨越七成企业增幅到达20%-40%。”IDC中国副总裁周震刚先容。

固然，在这波大模子建设热潮中，拥有更多的先发优势和投入动力的，照样原先就在AI上积累更深、AI渗透度更高的行业。

可以看到，在2023年人工智能行业渗透度排名中，Top5的行业依次为互联网、电信、政府、金融和制造。交通、服务、教育等行业在人工智能领域的投资力度也可圈可点，划分位列第六至八名。

其中，高居首位的互联网行业，在最新的天生式AI热潮中，依然是大模子和AIGC手艺应用和研发的主战场。李彦宏一度示意，百度要用大模子把所有产物重新做一遍，且“不是整合，也不是接入，是重做和重构。”

而渗透度排行榜上*的“黑马”——电信行业，反超政府和金融，跃升至第二名。在最近一两个月，电信业加速了在大模子上的历程，三大运营商也都亮出各自“最新的基础大模子 多个行业大模子”。

至于“财大气粗”且一直对手艺有着较高追求的金融行业，更是从今年头ChatGPT一火起来，就对大模子手艺举行投入。

这一火爆，直接带来智能算力的“暴增”。IDC的数据显示，2023年，中国通用算力规模预计到达59.3EFLOPS，同比增进8.8%；智能算力预计到达414.1EFLOPS，同比增进59.3%，6.7倍于通用算力增速。

2、算力新挑战

大模子时代，“卖铲人”的生意先红火起来。

奢品电商，撑不住了

典型如英伟达，因手握大量GPU资源，今年以来，一直在“开挂式”大丰收，不仅年头在资源市场首次突破万亿美元市值，之后更是拿到了雪花般的订单，收获了真金白银。

最新财报显示，8月到10月的单季度内，英伟达总共向全球大量的数据中央，出售145.1亿美元的芯片，远高于去年同期的38亿美元，也高于市场预期的127亿美元，同比增进324%。

海内的“百模大战”，也为英伟达带去不少生意。2024财年第二财季财报会上，英伟达高管曾透露，英伟达数据中央营业收入的20%至25%都来自中国市场，已创下历史新高。

不止是底层芯片厂商，算力产业链上其他各个环节的提供商们也都尝到了不少盈利。好比服务器端，《讲述》显示，2023年上半年，中国人工智能服务器市场规模到达30亿美元，同比增进了55.4%，预计整年将达91亿美元，同比增进82.5%。

与此同时，由于大模子对盘算能力和数据的高需求，2023年至2026年，全球用于运行天生式AI的服务器市场规模在整体人工智能服务器市场的占比将从11.9%增进到31.7%。

“今年的一个特殊情形是，人人抢卡对照厉害，导致服务器的支出增进异常快 。”IDC周震刚告诉数智前线，随着供需关系趋于平衡，这种高增速预计将在明年放缓，但鉴于算力需求延续上涨，中国AI服务器市场规模还将在未来五年以21.8%的年复合增进率延续增进。

时机陡升的同时，这个市场也在面临一些新挑战。一方面，单芯片算力已经遇到瓶颈，提升空间有限；另一方面，算力依旧紧缺。这两点上，全球市场无一破例。

固然，中国市场的情形可能还要更严重一点。一位资深人士告诉数智前线，海内市场今年险些九成加速盘算的能力都由英伟达所提供，仅一成由国产芯片厂商提供，算力欠缺问题，依然待解。

此外，各行各业在举行大模子探索和应用的历程中，也存在种种意想不到的挑战和问题。好比，有企业在使用AI集群，劈面向场景的AI大模子举行训练时，发现服务器中的CPU到GPU之间的通讯带宽，和存储到服务器之间的通讯带宽没法同时跑满，导致模子数据不能实时从存储读取，GPU空闲和训练性能低下。

若何在有限的算力下，更高效、低成本、少差错地举行大模子及天生式AI的应用和落地，已经成为许多企业都要面临的问题。

在此靠山下，讲述以为，海内有关智能算力供应能力的权衡尺度正在加速演变——用户在获得算力服务的历程中，会加倍以应用为导向举行综合考量，增添对于诸如单元时间可处置Token数目、可靠性、时延、训练时间和资金成本、数据集质量等指标的关注，而不再是仅思量硬件性能。

这也要求算力供应商做出响应改变。《讲述》指出，算力供应商需要“以应用为导向、系统为焦点”，构建算力基础设施平台，提高算力行使率，提升诸如卡间互联、多节点间互联等水平，支持天真稳固扩展和弹性容错，努力打造通用的人工智能软件和硬件平台，以先进的系统性能力知足市场的应用需求。

换句话说，与其太过关注单一芯片的性能强弱，不如凭证人工智能营业场景需求，设计更具针对性的算力系统，实现整体性能*。换一种头脑，打破算力逆境。

3、业界的新解法

面临算力市场的新时机和新挑战，包罗云厂商、服务器厂商等在内的诸多算力供应商，正在快速反映。

“基本上几个大的云服务商，都已经意识到大模子时代，智能盘算的谋划模式会和已往传统的云盘算模式发生对照大的改变，因此都在重新去组织自己的盘算能力。”周震刚告诉数智前线。

好比，百度云、华为云、阿里云都示意，将通过从底层算力到AI平台再到模子服务的全栈手艺创新，升级云盘算系统。MaaS（Model as a Service）已成为云厂商的服务系统的主要一层。

而在更底层的服务器端，同样带来了服务需求的转变，甚至需要厂商的转身。“我们以为，应该从算力系统、AI软件基础设施（AI infra）、算法模子和产业生态4个方面来举行综合考量，加速智能产业的落地。”浪潮信息高级副总裁刘军示意。

业界考察，服务器企业也在加速AI infra的希望，这是一个新动向。浪潮信息在今年8月推出了大模子智算软件栈OGAI“元脑生智”（Open GenAI Infra）。

它包罗L0的基础设施层（智算中央OS）、L1的系统环境层（PODsys）、L2的调剂平台层（AIStation），L3的模子工具层（YLink）和L4的多模纳管层（MModel）。各层对应差其余应用场景，且分层解耦，用户需要哪些工具，就能挪用哪些。

这也是算力供应商“以应用为导向、系统为焦点”的典型例证。类似的尚有百度在千帆大模子平台上提供的工具链。腾讯、阿里等也都有响应服务出来。各家大厂的普遍思绪是，延续更新迭代自己大模子的能力，同时又为大模子的训练和推理，提供训推履历、数据、盘算、存储、网络等涉及方方面面的全套工具链和服务。

另外，在算力系统层面，打造开放多元的AI算力平台，解决现在多元算力共存的问题，也是未来几年产业大趋势。如浪潮信息公布的G7算力平台，接纳开放多元的架构设计，支持最普遍的通用处置器和加速芯片，同时将整个集群的性能加速比提升至跨越90%，从而保障更大规模的集群扩展性能。

大模子的浪潮还在继续，移动互联网时代迈向智能时代的大门即将打开，在这个要害转折点上，反映速率的快慢往往决议了谁能更快抢得先机。周震刚建议，用户应该要尽早去拥抱这个趋势，供应商也应尽早顺应和跟上算力市场的改变。