广达快攻 GB200伺服器9月量产

广达资深副总经理杨麒令透露,GB200伺服器需求量很大。图/本报资料照片

广达杨麒令谈话重点

辉达GTC 2024点燃市场对新世代AI加速器GB200的关注,广达资深副总经理暨云达总经理杨麒令透露,GB200伺服器需求量很大,预计9月份量产出货,目前看来下半年晶片缺料有望舒缓,第二季将比第一季好,今年整体伺服器出货表现应是逐季提升,并维持全年双位数年增目标。

■下半年晶片缺料可舒缓

生成式AI(Generative AI)技术近年崛起,成为全球科技发展的焦点之一。DIGITIMES分析师黄耀汉指出,今年开始到2030年的整体年复合成长率高达83%,且预估2023年生成式AI市场规模将高达1.5兆元。显示AI应用仅在初步快速发展阶段。

同时,随着ChatGPT4.0及许多大型语言模型(LLM)问世,CSP云端业者对于训练需求(Training)需求很高,以现阶段来看,AI训练伺服器需求高于AI推论伺服器(Inference),毕竟训练型伺服器也可支援推论。

GB200是由一颗Grace系列的CPU加上两颗B100 GPU结合,支援第二代Transformer引擎,能运转数兆参数规模的语言模型,意味着大型语言模型即将进入「兆级参数」时代,市场传出组装订单由广达、鸿海、纬创及纬颖四家分食。

■四大CSP业者都有需求

杨麒令指出,在各大CSP(云端服务供应商)业者积极投入AI布建带动下,预期今年AI伺服器占整体伺服器的比重有望优于去年的2成多,提升至主要份额(Major Share)。另外,搭载NVIDIA GB200的伺服器正开发中,四大CSP业者都有需求,因此订单量不小,目前规划是在今年9月量产出货。

■今年在美国、德国扩厂

而为了因应强劲AI伺服器需求,广达也持续扩张产能。杨骐令表示,今年美国加州、田纳西州,以及德国厂持续进行扩张,增加海外组装产能,因此今年的资本支出和去年相比会增加不少;至于是否会在泰国建置主机板L6组装产线,目前还在评估中,因为涉及地缘政治,可能会到年底美国大选结束后才会较为明朗。

工研院23日举办「2024国际超大型积体电路技术研讨会(VLSI TSA)」,会中也公布2024 ERSO Award四位新科得主,包括环球晶圆董事长徐秀兰、帆宣董事长高新明、云达总经理杨麒令、美超微创办人梁见后。