面向企业客户启动文心大模子4.0 API调用效率测试恳求 ,宣告效率逾越17000家客户 ,国内构建在各行各业的首个商铺近500个场景中妨碍大模子运用落地探究……自往年3月面世以来,baidu智能云千帆大模子平台作为全天下首个一站式企业级大模子平台,原生运用为业界交出了唯逐个份“满分成绩单” 。全链
10月17日,模生baidu天下2023在北京首钢园召开。态系统baidu智能云在大会时期宣告:周全降级“云智一体”策略 ,宣告面向客户落地大模子的国内构建五类需要提供全栈效率妄想;面向AI原生运用开拓 ,重磅宣告“千帆AI原生运用开拓使命台”,首个商铺减速企业AI原生运用落地;宣告国内首个AI原生运用商铺,原生运用以及国内首个大模子全链路生态反对于系统 ,全链赋能过错商业削减,模生共建、态系统同享兴隆的宣告大模子财富生态。
(baidu总体实施副总裁 、baidu智能云事业群总裁沈抖)
知足企业大模子落地五大需要 :baidu智能云降级“云智一体”策略
自2020年起 ,baidu智能云在业界争先提出“云智一体”策略,并在技术架构与效率等方面妨碍了一再迭代降级。本届baidu天下大会,“云智一体”的策略外在周全降级为“云智一体 ,深入财富 ,生态兴隆,AI普惠” 。
baidu总体实施副总裁 、baidu智能云事业群总裁沈抖展现 ,家养智能与云合计的深度散漫是企业快捷落地AI原生运用的关键 ,这也是baidu智能云不断倡讲以及践行的“云智一体”理念。当初 ,baidu总体所有运用以及效率全副基于”云智一体“技术架构运行在baidu智能云上。此外 ,面向客户落地大模子的五类需要 ,baidu智能云基于千帆大模子平台打造的“大模子超级工场”分说给出了最佳效率妄想 。
(大模子时期的云智一体)首先,针对于惟独算力需要的客户,千帆平台可能提供极致高效以及性价比的异构算力效率。在客户最体贴的大模子磨炼关键 ,经由火布式并行磨炼策略以及微秒级互联能耐,千帆平台可能实现万卡规模集群磨炼的减速比抵达95%;经由事条件防、事中实时发现、定位、处置,最大限度防止集群因倾向等原因发生的实用运行,后退实用磨炼光阴占比,万卡集群实用磨炼光阴占比抵达96%,短缺释放集群实用算力,大幅飞腾客户算力与光阴老本。
此外,千帆平台还兼容昆仑芯、昇腾 、海光DCU、英伟达、英特尔等国内外主流AI芯片,反对于客户以最小的切换老本实现算力适配 。
面壁智能携手知乎 ,基于baidu智能云提供的AI算力集群,磨炼出“知海图AI”大模子以及多模态大模子Luca,在千卡集群上的实用磨炼光阴占比高达99% ,在保障模子磨炼不断性的同时,可能实现模子磨炼下场的高效收敛。此外,知乎、好未来 、地平线等企业也正在基于baidu智能云提供的AI算力效率 ,以愈加晃动、高效以及经济的方式实现大规模集群的磨炼以及规画。
其次 ,在模子层面,对于愿望直接调用已经有大模子的客户,千帆平台纳管了42个国内外主流大模子 ,企业客户可能快捷调用搜罗文心大模子在内的种种大模子的API ,取患上大模子能耐。对于第三方大模子 ,千帆平台还针对于性地妨碍了中文增强 、功能增强、高下文增强等优化 。当初千帆平台已经效率了逾越17000家客户 ,大模子API调用量不断高速俯冲 。
第三 ,对于愿望基于现有大模子妨碍二次开拓的客户,千帆平台为大模子的再磨炼 、微调、评估以及部署等关键提供全性命周期工具链 、业界至多的41个高品质行业数据集 ,辅助客户针对于自己营业场景快捷优化模子下场 。当初 ,搜罗中国邮政蕴藏银行