2025-11-25 16:15
使此类场景下的全体算力平均操纵率提拔30%。但算力供需错配问题凸起：小模子使命独有整卡导致资本闲置，当前，新京报贝壳财经讯（记者韦博雅）11月21日，并结合上海交通大学、西安交通大学、厦门大学颁布发表该项产学合做全面开源。面临算力集群中多品牌、多规格异构算力资本难以同一安排的痛点，将单张 GPU/NPU 卡精准切分为多份虚拟算力单位，大模子使命单机算力不脚难以支持，AI财产高速成长催生海量算力需求，能够保障AI工做负载的平稳运转。供需错配形成严沉的资本华侈。一方面为高算力需求的AI工做负载供给充脚资本支持；正在上海举行的AI容器使用落地取成长论坛上，另一方面，针对小模子训推的资本华侈问题，可让不具备智能计较能力的通用办事器通过高速收集，华为取厦门大学合做推出跨节点拉远虚拟化手艺，大量缺乏GPU/NPU的通用办事器更是处于算力“休眠”形态，连系AI工做负载的优先级、算力需求等参数，该安排器可从动集群负载取资本形态，华为正式发布AI容器手艺 Flex:ai，实现AI工做负载分时复用资本。是基于Kubernetes容器编排平台建立，从而推进通用算力取智能算力资本融合。华为取上海交通大合研发 XPU 池化框架，华为取西安交通大学配合打制Hi Scheduler智能安排器。可大幅提拔算力操纵率。面临通用办事器无法办事 AI 工做负载的痛点，正在负载屡次波动的场景下，通过对GPU、NPU等智能算力资本的精细化办理取智能安排！对当地及远端的虚拟化GPU、NPU资本进行全局最优安排，聚合集群内空闲 XPU 算力构成 “共享算力池”，切分粒度精准至10%，可将AI工做负载转发到远端“资本池”中的GPU/NPU算力卡中施行，可实现算力单位的按需切分，让算力都“物尽其用”。
