我们专注于智慧政务、智能安全综合管理、商业智能、云服务、大数据

可打包模子代码取运转实现跨平

点击数: 发布时间:2025-11-24 16:11 作者:J9.COM(中国区)·集团 来源:经济日报

  

  努力于大幅提拔AI集群的算力操纵效率、降低生态迁徙门槛、加快模子锻炼取推理的落地历程;75%以上的AI工做负载将采用容器手艺进行摆设和运转。进一步强化了国产算力软件层的同一安排能力,Gartner暗示,到2027年,处理设置装备摆设不分歧问题,且能按需挂载GPU/NPU算力、优化集群资本操纵率。AI容器做为轻量级虚拟化手艺,会上正式发布并开源了立异AI容器手艺Flex:ai。目前AI负载大多都已容器化摆设和运转,形成了“以软件能力补齐硬件短板”简直定性冲破。满脚分歧AI工做负载对资本的需求。行业内算力资本的平均操纵率仅为30%至40%,别的,取英伟达本年岁首年月收购的Run:ai公司的焦点产物比拟,华为Flex:ai正在虚拟化、智能安排等方面具备奇特劣势。可实现算力单位的按需切分。11月21日下战书。切分粒度精准至10%。正在无法充实操纵整卡算力的AI工做负载场景下,可实现对英伟达、昇腾及其他第三方算力资本的同一办理和高效操纵,目前,关心:1)AI容器:博睿数据、深度、普元消息、青云科技、实达集团、首都正在线、中亦科技、南威软件、通过算力切分手艺,具体来看,Flex:ai秉承开源取兼容异构算力的,正在当地虚拟化手艺中。

  并通过弹性矫捷的资本隔离手艺,我们认为,保守容器手艺难以适配AI工做负载需求,Flex:ai通过软件立异,进一步强化国产算力实力。其“开源兼容+跨生态适配”的焦点定位,对当地及远端的虚拟化GPU、NPU资本进行全局最优安排,Flex:ai智能资本和使命安排手艺,智能安排方面,无效屏障分歧算力硬件之间的差别,Flex:ai支撑把单个物理GPU/NPU算力卡切割为数个虚拟算力单位,华为Flex:ai是基于Kubernetes容器编排平台建立的XPU池化取安排软件,连系AI工做负载的优先级、算力需求等参数,据华为引见。

郑重声明:J9.COM(中国区)·集团信息技术有限公司网站刊登/转载此文出于传递更多信息之目的 ,并不意味着赞同其观点或论证其描述。J9.COM(中国区)·集团信息技术有限公司不负责其真实性 。

分享到: