“物以稀为贵，现在一台8卡的A800服务器，现已卖到了140万。”某云服务商的事务人员表明。“现在大模型的问题首要是两个，一是算力，一是落地的场景。”

A800现已是英伟达A100的阉割版，但跟着国内百模大战，英伟达GPU的需求水涨船高，*中国商场的A800，H800价格也现已超过了A100，H100原版价格，且仍然一卡难求。限于台积电产能，据称A800，H800的交期现已排到了年末或下一年。

此前有报导称字节跳动现已像向英伟达订货了价值10亿美元的GPU产品，而日前，英国《金融时报》又征引挨近英伟达的相关人士讲话称，百度、字节跳动、腾讯和阿里巴巴向英伟达下单订货了50亿美元的芯片。

50亿美元什么概念？英伟达2022年总营收为269.14亿美元，仅这一笔买卖，就占了其全年营收的18.6%。折算成人民币约为362亿，以车企为比照，2022全年小鹏营收268.55亿，这笔费用超过小鹏全年收入。

而作为本轮AI浪潮*的获益者，卖铲人英伟达在大卖之外，也在进一步推出更先进的产品。

刚刚曩昔的国际*核算机图形学会议SIGGRAPH上，黄仁勋用很多篇幅介绍了新一代GH200超级芯片渠道。

除了为NVIDIA GH200 Grace Hopper装备愈加先进的HBM3e内存外，下一代GH200超级芯片渠道还将具有衔接多个GPU的才干，然后完结更强壮的核算才干，可处理国际上最杂乱的生成式作业负载。

从数据来看，HBM3e内存要比当时的HBM3快50%，10T/s的组合带宽，使其可运转比上一版别大3.5倍的模型，一起经过3倍更快的内存带宽进步功用。估计将于2024年第二季度推出。

黄仁勋的自傲是，英伟达高功用GPU，归于“买得越多，省得越多”。但在当时的地缘政治布景下，后续在中国商场会有怎样的展开，暂时仍是个未知数。

与之构成鲜明比照的，是一大批草创企业的落潮。Wind数据显现，本年A股中24家AIGC概念股算计已产生67笔减持。

在大洋彼岸的硅谷，相同是热潮往后的镇定。依据极客公园对硅谷多名相关人员的采访，在ChatGPT爆火半年后，硅谷巨子们阅历了开端的惊惧，现已完结对OpenAI的祛媚，开端依据本身已有优势扩展布局，寻觅大模型能为之助力，乃至可能产生推翻式立异的方向。也便是说，开端依据原有优势事务，寻觅实在能让大模型落地的场景。

例如Meta是将大模型视为下一代核算渠道，敞开其Llama2商业答应，并与微软Azure协作对外供给服务，与高通协作推进在终端运转Llama2，即一起供给to B和to C的才干。亚马逊则环绕其B端事务推出了大模型服务Amazon Bedrock，既包含自研的大模型，一起也与Stability AI、A121 Labs等根底模型供给商广泛协作，协助企业灵敏构建生成式AI运用，下降开发者运用门槛。

巨子们的事务开端向大模型服务转型，而对更多草创企业来说，运用大模型完结笔直范畴的运用是更实践的落地途径。

总归，很少有人再将做一个通用大模型视为方针。

01.上车是大模型落地的一大场景

打造笔直范畴的专业模型，从现在来看，直接上云凭借巨子的算力和才干进行更快捷的研制或是一大趋势。

模型的练习需求耗费很多算力，不管是否有实力收购芯片，或许是否能买到芯片，对一般企业都是一大检测。一起，也是对算力的巨大糟蹋。上云，是更好的挑选。包含前文提及的亚马逊云，以及阿里云、华为云和腾讯云等均供给了依据云服务开发大模型的才干。

关于大部分并没有满足的实力和精力去自己构建数据中心的企业来说，在云上开发成为更好的挑选。这也导致各家云巨子对算力的需求陡增。必定意义上，这些互联网巨子成为了各企业的算力供给商。

亚马逊云能为大模型上车供给的服务包含协助主机厂进行软件开发，以及规划、练习和测验自动驾驭体系。而此前华为云发布乌兰察布轿车专区时推出的自动驾驭开发渠道，则可完结全流程掩盖智驾开发、仿真测验、实车测验、量产上车等环节。

包含英伟达，也相同为需求开发大模型事务的企业供给了大模型开发渠道东西NVIDIA AI Workbench，来协助开发和布置生成式AI模型。归纳来说，AI Workbench为开发者供给了一个一致且易于运用的东西包，可以快速在PC或作业站上创立、测验和微调模型，并无缝扩展到简直任何数据中心、公有云或NVIDIA DGX Cloud上。

天津大学无人驾驭轿车穿插研讨中心主任谢辉教授以为，通用大模型和专业模型的差异就像是本科生与工程师的差异，ChatGPT像是将核算机培育到了大学毕业的智能水平，专业模型就像是各个范畴专业的工程师。

而上车，便是一个将大模型运用于笔直范畴的落地场景。

咱们现已看到很多关于大模型上车的宣扬。从百度、阿里、华为等巨子宣告在车端接入其自研大模型，到吉祥、广汽等车企表明将自研大模型上车，也有如毫末这样的智驾公司推出针对自动驾驭的模型。

综观各家大模型上车，其运用首要可分为两大范畴，即智能座舱和自动驾驭。

斑马智行CEO张春晖在上海车展期间的发布会上表明，轿车是大模型*的落地场景。

从现在的商场体现来看，大模型上车热闹非凡，但实践的展开怎么，还有待验证。

02.智能座舱还需求实践落地的样本

大模型上车的风，首要是从百度文心一言吹起的。尔后，包含阿里通义千问，华为盘古大模型，商汤日日新、科大讯飞星火大模型等也先后发布并宣告上车。展开到今日，广汽、吉祥、抱负等车企也开端宣告将自研AI模型上车。

相较于自动驾驭，大模型在智能座舱的落地遍及被以为愈加简略，也是大部分宣扬大模型上车的企业宣扬的方向。但从现在展开来看，尚没有车企实在完结大模型上车的量产交给。

一般以为，大模型接入智能座舱将加快软件才干的晋级，推进座舱完结人机自动式交互。例如，经过增强对乘客语音语义的了解才干，让车载语音完结更深层次的个性化和天然拟人的交互，并且，还可以完结对驾驭员在视觉、听觉、触觉等多模态运用上的辨认和呼应，构成深度的人机自动式互动体会，并依据驾驭员的体现为其供给更智能化的服务。

最挨近落地的是6月奔驰宣告在美国商场为装备MBUX的车型接入ChatGPT，敞开为期三月的测验。百度则在五月测验了文心大模型上车作用。咱们可以从这两场最挨近实在上车的测验一窥大模型接入座舱将带来的改动。

从海外记者的体会来看，接入ChatGPT的奔驰语音帮手完结了更为流通对话的才干，还可依据需求供给主张。不过，全体反应速度相对来说仍是比较滞后。奔驰表明国内车型上并没有接入ChatGPT的方案。

而搭载文心大模型的百度Apollo体现相对愈加流通，并且，也做到了对传统AIGC才干的掩盖，例如，生成案牍、图画等，还可以切换人设，分辩不同声响来历，一起处理多个指令。

但现在，这套体系也没有完结实在的上车落地。此前百度曾表明包含长安、红旗等品牌均将接入文心大模型，但现在并没有相关信息。

最新消息是8月份百度Apollo宣告长城轿车、亿咖通科技成为首批文心大模型智舱运用探究同伴。百度Apollo已别离与长城轿车、亿咖通科技依据大模型才干环绕车载交互场景展开探究和实践，完结多项立异功用在量产车型渠道上的验证，部分功用未来有望在长城、领克、smart等量产车型上首要落地。从遣词来看，何时落地没有确认。

智驾网也询问了多家曾发布大模型上车方案的企业。在上海车展期间宣告将接入阿里大模型通义千问的斑马智行，相同表明关于大模型的详细开展并不清楚，但九月初应该会有一波新的开展发布。

商汤与科大讯飞也尚无清晰的相关发表。而华为的盘古大模型则已接入鸿蒙4体系，不过在车端，预告首搭鸿蒙4座舱体系的是将于本年三季度正式发布的与奇瑞协作的Luxeed。

吉祥和广汽现在则处于宣告将上车AI大模型的阶段。抱负轿车也表明自研了Mind GPT，并将AI技能引进到车机抱负同学中。

大模型上车进行得如火如荼，但可以猜想的是，实在要完结上车后到达天然的多模态交互，好像并没有遍及宣扬的那样简略。

03.大模型将助力自动驾驭落地，但为时尚早

而在自动驾驭范畴，现在清晰提出相关模型的是毫末智行的DriveGPT。其原理是依照ChatGPT的格局将输入图画转换为场景的Token化表达，再用强化学习的思想去输出自动驾驭的操控量。

毫末智行技能副总裁艾锐表明，现在，DriveGPT的运用，关于轿车算力的需求仍是太大，还需求必定的时刻才干处理。一起在算力进步后，对轿车的能耗也会带来不小的应战，未来需求找到一种低本钱的完结办法。从现在来看，这种才干只能布置在云端，让我们经过联网去运用。

同济大学轿车学院黄岩军教授则以为，DriveGPT在驾驭场景辨认等相似ChatGPT的对话生成场景中作用是很好的，能很好地辨认输入图画的驾驭场景。但自动驾驭并不是天然语言处理，无法将杂乱的环境动力学信息了解简化为对话的办法，以Token的办法对自动驾驭轿车进行操控。由于环境中存在的语义信息十分多，现在自动驾驭的做法是经过感知模块将相似的信息提取出来，再交给规划操控模块。现在在云端运转的是自动化标示、驾驭场景辨认、驾驭场景重构等功用，这关于之后打破自动驾驭壁垒很有必要，不过这些功用在云端运转现已满足了。

这也是现在现已推出了自动驾驭相关服务的云厂商所能完结的才干。亚马逊云表明主机厂可以凭借生成式AI来进行模仿，以测验车辆对各种驾驭场景的呼应。这些场景可能是极小概率会产生的状况，或许在实践国际比较极点的状况，测验并不安全（比方，在夜间、雨天和黑私自差点撞上横穿马路的人）。模仿测验不只可以进步测验功率，还将使轿车企业得以创立更丰厚的测验场景，并进步整个驾驭体系的才干。

而关于大模型对标示的促进作用，抱负轿车李想曾举例解说过：仅以自动驾驭的图片标定为例，曩昔一年需求做大约1000万帧图画的人工标定，本钱6-8元每张，一年本钱挨近一亿。而运用大模型软件后，经过自动化标定，曩昔需求一年做的工作，基本上3个小时就能完结，功率是人的1000倍。

此前，地平线联合创始人黄畅也曾在承受采访时表明，GPT在自动驾驭场景中*运用的很可能是环境模型的猜测和交互式规划。这个场景不需求特别大规划的参数模型，由于它不是一个完好的端到端，特别由于它更重视于猜测和规划，不必花太多精力在感知这个层面上，因而很可能在百TOPS等级的算力渠道上就能运用，三到五年内就可以开始上线。

而在完好的端到端缓解，从感知到定位地图到规控，整个端到端的闭环做出来，黄畅以为需求一个更大规划的参数模型，大约需求五到十年的时刻。

黄岩军则以为，在将生成式大模型运用于自动驾驭中时，需求首要提出新概念新算法，模仿神经体系树立类脑模型，以立异带动展开；其次需求运用面向通用人工智能的生成式办法对感知对猜测一整套流程进行建模，全面表征环境动力学信息；最终，在大模型建模完结之后，需求运用数据闭环的办法，不断在长尾场景进行学习，使模型得到自我进化，才干让大模型更好的运用于自动驾驭傍边。

也便是说，现在用于自动驾驭的模型首要仍是在标示、场景辨认和模仿这些数据层面回传功用的完结，实在要用到最终规控决议计划的还无法完结。

但关于大模型在自动驾驭中的运用远景，黄岩军明显持乐观态度。

“我以为，跟着通用人工智能技能的展开，未来十五年到未来二十年，生成式大模型可以以共同的姿势站上自动驾驭范畴之巅，处理现在自动驾驭的各种边际场景，完结自动驾驭的闭环自进化。”

大模型的混战仍在持续，对芯片和算力的需求好像也没有到达一个安稳的状况。而要实在看到大模型在相关场景完结质的腾跃，明显也还需求时刻。