緯穎GTC大會秀新品!搭載GB200 NVL72助LLM飆升30倍速

纬颖。记者吴康玮/摄影

纬创(3231)旗下伺服器大厂纬颖(6669)长期耕耘云端资料中心IT基础设备,致力于「释放数位能量,点燃永续创新的愿景」。并于今(19)日于美国圣荷西举办的「 GTC 大会」推出旗下最新的整机柜AI运算解决方案和整机柜液冷管理系统。纬颖透露,这次展会期间(3月18至21日)团队将在展位(#1619)上,秀出包括基于NVIDIA GB200 NVL72的AI伺服器机柜,以及最新的整机柜液冷管理系统 UMS100等新品。

纬颖作为 NVIDIA 紧密的合作伙伴,纬颖目标在满足生成式AI时代对大规模运算能力和先进冷却解决方案不断增长的需求。据悉公司不仅是较早卡位 NVIDIA 的业者,并且更是首批搭载GB200 NVL72的公司之一。此次全新发表的 NVIDIA GB200 Grace™ Blackwell Superchip支援最新的 NVIDIA Quantum-X800 InfiniBand 和 Spectrum™-X800 乙太网路平台。

与上一代 GPU 相比,不仅将生成式AI提升到兆级参数的规模,并且实现了30倍速快的即时大型语言模型(LLM)推理速度,并且降低25倍的 TCO 和25倍的能源消耗。凭借在高速资料传输、功耗效率、系统整合和先进冷却方面的优势,纬颖致力于打造最佳化的整机柜液冷AI解决方案,以满足客户对资料中心基础设施在性能、可扩展性和多样性的需求。

此外,为了满足AI/HPC 高密度运算中日益增长的液冷需求,纬颖展示了全新的全方位液冷管理系统 UMS100。 UMS100提供即时监测、冷却能耗优化、即时漏液检测与控制,以确保系统的高效运作。它透过 Redfish 介面与现有的资料中心管理系统实现无缝整合;同时,透过支援产业标准,UMS100可与不同的 CDUs 和 sidecars 相容运作。这些特点使 UMS100成为资料中心理想的液冷架构解决方案。

纬颖总经理暨执行长张顺来博士表示:我们很高兴成为首批搭载 NVIDIA GB200 NVL72的合作伙伴之一,并于与NVIDIA 在 GTC 2024展示我们合作的创新设计。透过我们的 GB200 AI机柜解决方案,我们将为客户提供卓越的运算能力,同时确保可客制化的弹性,以满足资料中心在扩展、灵活性和管理方面的多样需求。

张顺来强调,我们将持续与 NVIDIA 合作,为生成式AI时代的资料中心共同开发优化和可持续的解决方案。NVIDIA GPU 产品部门副总裁 Kaustubh Sanghani 表示,纬颖提供可应用于不同产业的可扩展且安全的 NVIDIA 加速运算产品。透过我们的 NVIDIA GB200 NVL72系统,纬颖致力于创新现代的资料中心,推动一个运算新时代。