輝達新AI晶片高算力低能耗 集邦:明年成主流

AI界盛事辉达(NVIDIA)年度GTC大会在加州圣荷西举行,辉达展区内,采用台积电N4P制程代工的Blackwell B200晶片架构产品亮相。中央社

辉达(NVIDIA)在GTC大会推出Blackwell架构的AI晶片B100、B200及GB200等,不仅效能大幅提升,成本与能耗同步优化,市调机构集邦科技预期,B200等产品有望在2024年底陆续上市,并于2025年成为市场主流。

集邦科技指出,Blackwell AI伺服器架构平台是今年GTC大会亮点产品,以第2代Transformer引擎与第5代NVLink技术,可支援高达10兆参数模型的AI训练与即时大型语言(LLM)推理。

据辉达表示,Blackwell架构绘图处理器(GPU)配备2080亿个电晶体,采用台积电客制化4奈米制程制造,透过每秒10TB的晶片到晶片互连连接成单个GPU,利用4位浮点AI推论能力支援加倍地运算。

辉达指出,最新版本的NVLink提供每个GPU每秒8TB的双向吞吐量,确保在复杂的大型语言模型中,实现576个GPU间无缝高速沟通。

辉达表示,GB200 NVL72系统串联72个BlackwellGPU和36个Grace中央处理器(CPU),相较于H100Tensor Core GPU,GB200 NVL72可提供30倍的大型语言模型推论工作负载效能,并大幅降低成本和能源消耗。

集邦科技表示,辉达产品服务涉及面向多元,但发展核心仍以医疗、制造两者为重。辉达针对医疗推出20余项医疗专用生成式AI微服务,也更新BioNeMo模型以强化电脑辅助药物开发。

在制造方面,辉达则是推出适用于人形机器人的GR00T专案基础模型,以及透过Isaac平台将生成式AI导入制造和物流应用。

集邦科技指出,辉达产品应用聚焦医疗和制造,主要因为智慧化基础高、转型诱因强烈,数据虽然多且杂,但密闭空间相对好搜集,加上模拟技术越趋成熟。集邦预期,随着自驾车、电动车市场逐渐成熟,往智慧载体演化的汽车产业有望成为辉达下阶段发展重点。