對標輝達!傳華為推AI新技術 算力利用率提升至70%

大陆科技巨头华为将在21日发布AI领域的突破性技术,以软体方法,将GPU(图形处理器)、NPU(神经网络处理器)等算力资源的利用率,从行业平均的30%至40%提升至70%,对标辉达2024年底收购的以色列公司Run: ai的核心技术。(路透)

有消息指出,大陆科技巨头华为将在21日发布AI领域的突破性技术,有望解决算力资源利用效率的难题,将GPU(图形处理器)、NPU(神经网络处理器)等算力资源的利用率,从行业平均的30%至40%提升至70%,对标辉达2024年底收购的以色列公司Run: ai的核心技术。不过目前华为官方并未公开证实前述资讯。

综合观察者网、中国基金报等媒体报导,知情人士称,该技术延续 「以软体补硬体」的创新思路,旨在通过软体创新,实现辉达、升腾以及其他三方算力的统一资源管理与利用,屏蔽算力硬体差异,为AI训练推理提供更高效的资源支撑。

华为今年以来推出多项技术以突破对辉达的依赖,比如推出升腾384超节点,以华为在通信、存储和基础软体等方面的大杂烩优势,突破了互联瓶颈,在算力规模的赶超;此外,推出并开源UCM(Unified Cache Manager)推理记忆数据管理技术,充分利用了不同存储介质的特性,降低AI推理对高端HBM的依赖。

以色列公司Run:ai于2018年成立,其产品只围绕一核心:如何高效使用GPU,比如提供业务看板、GPU权限分配、任务分配等等直观可视化操作工具,本质是在做GPU的「数据产品经理」。这套技术对于中小规模、非AI行业的用户而言非常关键。

有媒体报导称,Run:ai的用户包括全球列印机巨头斑马技术、自动驾驶公司Wayve等。其中Wayve通过Run:ai提供的工具,将原先不足25%的GPU集群效率,提升到80%以上。

Run:ai在2024年12月以7亿美元被辉达收购。收购的同时,辉达还宣布开源Run:ai的所有平台技术,买辉达GPU就能免费用。外界认为辉达CEO黄仁勋之所收购Run:ai的目的,是要进行AI行业的垂直整合,从晶片到工具再到软体应用,打造一个能满足任何AI用户的一站式商店,让客户对其生态形成依赖。