百度工程师首次现场演示:“文心千帆”若何可

2023-05-09|来源:远大期货

5月9日,百度智能云在北京举行文心大模子手艺交流会,向在场的百家企业展示文心大模子在产物手艺、场景研发、生态建设等领域的最新希望。

大模子引发的AI再造产业趋势已经势不能挡。但当下企业*的难题是,若何高效、低成本得获取大模子能力,若何挑选到最合适的大模子服务。

百度智能云方面示意,正在内测的“文心千帆大模子平台”,是全球*一站式的企业级大模子生产平台,不只提供包罗文心一言在内的大模子服务及第三方大模子服务,还提供大模子开发和应用的整套工具链。

未来,文心千帆将提供两种服务:*,文心一言是现在中国市场最*的大模子,未来,文心千帆将以文心一言为焦点,提供大模子服务,辅助客户刷新产物和生产流程。第二,作为一个大模子生产平台,企业可以在文心千帆上基于任何开源或闭源的大模子,开发自己的专属大模子。

百度团体副总裁侯震宇示意,大模子时代下,企业的创新要脱颖而出,不只需要智能的算力、天真的框架平台、厚实的大模子系统以及优质的应用方案,还需要这四者之间端到端的适配与优化,这是一个“既要、又要、还要”的端到端创新工程。

(百度团体副总裁侯震宇)

现场,百度智能云与遐想团体、用友、宝兰德等14家文心千帆生态同伴举行签约仪式。

用友网络副总裁、用友研究院院长吕建伟示意,中国企业关注大模子的落地能力,一个简朴的智能问答背后有着异常庞大的加工历程。我们期望和百度智能云一起,把微调、性能调优等工具简化,推动大模子应用。

北京宝兰德软件董事长易存道示意,若何把大模子在垂直行业做好,是现在各个企业都要思量的问题,多数企业无法像百度一样有能力建设大模子。怎么能够把百度的大模子能力和企业营业有用连系起来,缔造更强的价值,是企业异常好的弯道超车时机。

(百度智能云与14家文心千帆生态同伴举行签约仪式)

海内*个!百度工程师现场演示大模子微调全历程

事实上,现在企业应用大模子面临诸多灾点:模子体积大,训练难度高;算力规模大,性能要求高;数据规模大,数据质量乱七八糟。大模子产业化需要云盘算厂商将模子开发、训练、调优、运营等庞大历程封装起来,通过低门槛、高效率的企业级服务平台深入产业,为千行百业提供服务。

侯震宇示意,文心千帆大模子平台是全球*一站式的企业级大模子平台。之以是称为全球*一站式平台,是由于它不只提供包罗文心一言在内的大模子服务,还提供大模子开发和应用的整套工具链。此外,该平台还支持种种第三方大模子,未来将成为大模子生产和分发的集散地。

现在,文心千帆大模子平台提供公有云服务、私有化部署两大交付模式。

在公有云服务方面,将提供:推理(直接挪用大模子的推理能力)、微调(通过高质量精标营业数据,高效训练出特定行业的大模子)、托管(将模子公布在百度智能云,以实现加倍稳固高效的运行)三种服务,大幅降低企业部署大模子的门槛。

百度智能云AI与大数据平台总司理忻舟在现场演示了若何微调大模子,这也是海内首次演示若何微调行业专属大模子的全历程。文心千帆大模子平台提供了可视化开发工具链,提供了数据天生、标注、回流的数据闭环治理功效。客户以少量数据即可提议模子微调,最快几分钟就可获得自己的专属大模子。

在私有化部署方面,文心千帆大模子平台支持软件授权(提供在企业环境中运行的大模子服务)、软硬一体(提供整套大模子服务及对应的硬件基础设施),租赁服务(提供机械和平台的租赁知足客户低频需求)三种方式。私有化属下能够知足对数据羁系有严酷要求的企业客户需求。

忻舟总结,文心千帆大模子平台有六大特点:更易用,开箱即用,节约客户时机成本;更周全,提供笼罩全生命周期的工具链;更高效,可以端到端的全流程优化;更平安;更开放;更集成,更多插件拓展模子能力界线。

四川大学教授创建新材料公司,科宜高分子完成数千万元A 轮融资

(百度智能云AI与大数据平台总司理忻舟:文心千帆大模子平台有六大特点)

“快且收敛,是大模子应用训练中一个异常主要的指标。”忻舟说,“只快不收敛,大模子的训练是没有用的。文心千帆在多机多卡训练性能方面,可以更快到达收敛的状态,在全球权威AI基准评测MLPerf榜单中排名天下*。”

已有300余家生态同伴介入文心一言内测

据领会,百度内部产物正在基于文心一言升级。

好比,在百度员工内部的智能事情平台“如流”上,许多程序员会就一些产物或手艺难题询问产物司理、研发同事,数目多,频次高。已往获得一个谜底平均时间约5分钟,现在如流有了一个文心千帆AI小助手,可以取代同事自动回覆种种问题,平均5秒就可以解答一个难题,大幅提升了事情效率。

同时,百度智能云的金融行业应用、政务行业应用、智能创作平台、智能客服、企业知识治理、数字人直播平台等六大智能产物系列,将基于文心大模子周全升级,未来将在平安评估完成后上线。

此外, 文心千帆大模子平台面向首批企业客户内测以来,正在与差异领域客户团结研发,在智能办公、旅行服务、电商直播、政务服务、金融服务五大领域打造行业样板间。

金山办公助理总裁田然示意,金山办公要跟中国优异的大模子提供方站在一起,做好大模子应用方的角色,用更好的办公软件,为客户提供更多的价值。文心千帆在平安合规、模子深度、迭代速率、推理性能等多个方面都有一定的优势,在意图明晰、PPT纲要天生、范文誊写、天生待办列表、文生图等多模态天生的场景上,双方的团结开发已经取得了希望。金山办公和文心千帆的相助,会进一步推动大模子在办公领域的应用和快速落地。今天的相助只是刚刚最先,未来金山办公与百度将在更多更有价值的功效和产物上延续探索。

百度还辅助长安汽车构建了人工智能基础设施平台和数字人平台。现在双方基于百度文心大模子正在开发一款智能产物,赋能长安汽车的一款量产车型,打造创新性的用户体验和延续的研发动能。

百度团体副总裁袁佛玉示意:“停止现在,已有跨越300家生态同伴介入文心一言内测,在400多个企业内部场景取得测试成效。”

(百度团体副总裁袁佛玉)

企业该若何选择大模子?除了算力还要看三个指标

海内大公司纷纷推出大模子,对于企业来说,若何挑选一个合适的大模子成为新难题。

现实上,企业选择大模子可以从三个尺度评判:大模子自己的能力、大模子企业服务的能力、全栈手艺积累水平。

侯震宇示意,百度是全球*在芯片、框架、模子和应用这四层举行全栈结构的人工智能公司。正由于可以实现全栈端到端的优化,文心一言自3月启动内测不到2个月,已完成4次手艺版本升级,大模子推理成本降为原来的十分之一。

此外,大模子的大盘算、大参数、高成本,也对大模子时代的AI基础设施提出新的要求。基于四层框架优势,百度智能云打造了海内*全栈自研的AI基础设施“百度AI大底座”,面向企业AI开发提供端到端的解决方案。尤其是在框架层和模子层之间,AI大底座有很强的协同作用,可以辅助企业构建更高效的模子,延续调优性能,并显著降低成本。

百度智能云云盘算产物解决方案和运营部总司理宋飞举例:“人人可能会以为聚积算力、写好代码、然后举行模子训练,把它跑起来就行了。现实上在训练历程中会遇到林林总总的挑战,很少有人能够使得一个大模子训练历程能够在延续一两天内不出问题。百度AI大底座可以为大模子提供高效、稳固的训练和有用的收敛。千卡加速比到达90%,资源行使率70%,开发效率提升100%。这是AI大底座为大模子的开发和应用带来的价值。”

百度AI大底座也在为相助同伴提供辅助。百图生科基于与百度智能云团结构建的生物超算平台,训练出了全球*、也是现在*的生命科学领域的千亿大模子“xTrimo”。在地平线的智能驾驶解决方案全生命周期开发中,百度AI大底座为高性能数据存储和模子训练提供支持。

友情链接:      香港股票开户远大期货正大期货