日經:AI伺服器帶動散熱需求 光寶科技尋求鞏固液冷解決方案地位

台湾光宝科技正寻求巩固在液冷解决方案的地位。图为光宝科董事长宋明峰(左)与总经理邱森彬(右)资料照。图/记者吴康玮摄

人工智慧(AI)市场不只带动相关晶片与伺服器市况火热,同样也正推升高效散热解决方案的需求,台湾光宝科技(Lite-On Technology)正寻求巩固在液冷解决方案的地位。

光宝科技云端基础设施平台与解决方案协理副总裁Simon Ong接受日经新闻访问表示,「AI资料中心有许多热能待解决,而传统气冷式解决方案效能不足」,发展「更精密的散热技术,以解决系统产生热能的必要,势不可当」。

光宝科技认为,传统散热方法不敷因应AI挑战,该公司曾用不同的散热解决方案对两组晶片进行基准测试,Simon Ong说,「我们发现使用气冷方法的晶片,只能达到效能的60%,将绝对会有过热疑虑,同时液冷解决方案能持续提高运算效能到最佳水准」,「如果晶片太热,运作的效率和效能将永远无法达到在可接受环境下的情况」。

他说,资料中心营运商也能用扩大伺服器机柜内的散热片规模等传统方法降温,「但你是想在伺服器机柜内的有限空间里,装满散热片还是晶片?当然,我们想要更多的运算能力」。

他认为,在AI运算的未来中,「新的液冷技术将是非常重要的解决方案,而非目前采用空气散热的主流散热解决方泛,虽然后者比较便宜,但为表面降温的速度也慢得多」。

AI资料中心仰赖辉达(Nvidia)或超微(AMD)等业者供应的强力绘图处理器(GPU)晶片运作,这些晶片能处理平行运算,但需要的耗能也大幅攀升,辉达A100晶片需要400瓦,到H100晶片已需要700瓦,下一代的B100晶片每颗将消耗1,000瓦,是驱动240瓦MacBook Air八小时所需电力的四倍多。

辉达H100 GPU需求大爆发,也让各界更加关注电源供应与热能解决方案产业,因为随着晶片耗能飙增,所产生的热能也成为关键瓶颈,温度会直接影响晶片效能,因此比以往都更需要更精密的散热解决方案。产业专家指出,传统运用风扇和管线的气冷式方案,无法解决AI伺服器的高热问题。

此外,随着科技业竞相达成净零碳排,散热技术也成为资料中心营运商维持低能源使用效率(PUE)的关键。新兴的散热科技包括液冷技术,在伺服器周边安装水流系统以降温,另外还有把整体伺服器机柜泡入不导电液体内的浸没式冷却技术。

作为苹果、惠普及戴尔供应商的光宝科技,正是资料中心基础建设电力与热能解决方案的要角,正寻求巩固在液冷解决方案领域的地位。其他加码投入这块领域的业者还有台达电子与双鸿科技,就连英特尔等晶片制造商、和技嘉科技、英业达及纬颖等伺服器系统整合业者,都把资源导向开发创新的散热技术。

资策会产业情报研究所(MIC)产业顾问魏传虔说,AI伺服器装配的中央处理器(CPU)和GPU数量多于传统伺服器,耗能随之提高,也带动升级散热和电源供应等既有零组件与技术的趋势。他说,AI伺服器产值已在去年超越整体全球伺服器市场的一半,MIC预测AI伺服器的渗透率将在2027年前提高到20.9%,高于去年的12.4%。