GPU狂潮:内存巨头争夺HBM3e
HBM3e受追捧,英伟达GPU订单爆满。
人工智能浪潮继续推动对人工智能芯片的需求激增。继 HBM 售罄和制造商加大产量以满足需求的报道之后,最近有消息称英伟达的 Blackwell 架构 GPU 也供不应求。
英伟达的 Blackwell GPU 未来 12 个月内已售罄
Blackwell GPU 采用定制的双光罩极限 4NP TSMC 工艺制造,GPU 芯片通过 10TBps 芯片到芯片链路连接到单个统一的 GPU,拥有 2080 亿个晶体管。这比 Hopper 系列的 800 亿个有所增加,并包括第二代变压器引擎和新的 4 位浮点 AI 推理功能。
尽管英伟达的 Blackwell 架构 GPU 推迟到今年第四季度上市,但这并没有影响订单。
据Tom's Hardware报道,摩根士丹利最近在纽约与英伟达首席执行官黄仁勋、首席财务官 Colette Kress 以及该芯片制造商管理团队的其他成员举行了为期三天的会议。
摩根士丹利报道称,英伟达表示,未来12个月的Blackwell架构GPU订单已全部售罄,现在下订单的新客户要到2025年底才能收到产品。
本月初,微软成为首家部署英伟达 GB200 AI 服务器的云服务商,该公司在 X(原 Twitter)上发布消息称:"Microsoft Azure 是首家运行 英伟达 Blackwell 系统并搭载 GB200 AI 服务器的云服务商。我们正在每一层进行优化,以支持世界上最先进的 AI 模型,并利用 Infiniband 网络和创新的闭环液体冷却。"
现有客户包括 AWS、CoreWeave、谷歌、Meta、微软和甲骨文,已经购买了英伟达及其合作伙伴台积电在未来几个季度内可以生产的所有 Blackwell 架构 GPU。
业界指出,高性能GPU及其背后的AI芯片市场需求依然旺盛,英伟达、AMD、Intel等各大AI芯片厂商之间的竞争将愈加激烈。
摩根士丹利分析师约瑟夫·摩尔 (Joseph Moore) 在给客户的报告中写道:"我们仍然认为,英伟达很可能在 2025 年真正获得 AI 处理器的份额,因为定制硅片的最大用户明年将看到英伟达解决方案的迅猛增长。"
现在英伟达的B100和B200 GPU的封装问题已经解决,英伟达可以生产与台积电一样多的 Blackwell GPU。B100 和 B200 都采用台积电的 CoWoS-L 封装,而这家全球最大的芯片代工厂是否有足够的 CoWoS-L 产能还有待观察。
此外,随着对 AI GPU 的需求猛增,内存制造商能否为 Blackwell 等尖端 GPU 提供足够的 HBM3e 内存仍有待观察。
三大内存巨头抢占HBM3e先机,12款新品凸显重要性
受高性能AI芯片的不断迭代和单系统HBM容量扩大的驱动,HBM bit需求持续增长。
根据TrendForce预估,2024年HBM需求比特数年增率将接近200%,2025年将再度翻倍。
TrendForce表示,受惠于AI平台积极采用新一代HBM产品的带动,2025年HBM需求bit将有八成以上为HBM3e代产品,其中12-hi将占比过半,成为明年下半年各大AI厂商竞相争夺的主流产品,其次为8-hi。
三星、SK海力士、美光分别于2024年上半年、第三季度提交首批HBM3e 12-hi样品,目前处于持续验证阶段。其中SK海力士、美光进展较快,预计今年年底完成验证。
同时,随着英伟达、AMD主流GPU产品的迭代,以及HBM规格的变化,市场也将逐步从HBM3升级到HBM3e,三大内存厂商(三星、SK海力士、美光)将积极抢占HBM3e机会。
7月,三星宣布其研HBM3E内存技术通过了英伟达的严格测试,预示着这家韩国科技巨头即将重新在高端内存市场占据一席之地。为实现这一目标,三星多次调整战略,优化4nm制程工艺,目前HBM3e的良品率已超过70%,显示出强大的技术实力。
HBM3e 内存的关键特性在于其高密度存储和低能耗设计,这使得它在图形处理和数据中心应用中表现出色。英伟达选择三星作为供应商,反映了对其在高性能计算领域能力的认可。据报道,三星计划从其DRAM产能中调拨约30%用于生产HBM3e,这可能导致全球DRAM供应量减少13%,从而推高市场价格。
对于消费者而言,这意味着未来搭载HBM3e内存的游戏设备和服务器将具备更快的数据交换速度和更持久的性能表现。在游戏体验上,玩家可以期待流畅无阻的图形渲染和无缝切换,而企业用户则能在大数据处理和云计算任务中获得显著提升。
三星此次成功获取英伟达的大单,无疑对竞争对手如美光和SK海力士构成了压力,他们可能需要加快研发进程以应对市场变化。同时,消费者在购买决策时可能会更加倾向于选择具备HBM3e内存的产品,这将推动整个智能设备市场向着更高的性能和效率迈进。
*声明:本文系原作者创作。文章内容系其个人观点,我方转载仅为分享与讨论,不代表我方赞成或认同,如有异议,请联系后台。