傳亞馬遜啟動「射月」計畫 降低仰賴採購NVIDIA加速晶片的需求
在持续向人工智慧新创Anthropic加码投资,使其扩大使用AWS平台服务之余,亚马逊目前更传出内部已经启动「射月」 (moonshot)计划,将透过布署超过10万组客制化处理器Trainium2,借此降低仰赖采购NVIDIA加速晶片的需求。
Trainium2是亚马逊于去年底的re:Invent 2023大会上公布产品,标榜能以高于4倍推论效能,以及提升2倍电力使用效率,加速人工智慧模型训练,并且降低整体训练成本,而亚马逊投资的Anthropic也确定以此处理器加速其人工智慧模型训练工作。
除了Trainium2,亚马逊也针对通用人工智慧运作打造Graviton4客制化推论晶片,同样以Arm架构设计,标榜比Intel、AMD处理器能以更低电力损耗形式运作,同时整体执行效率更可提升30%左右,相对也能让企业运用时降低背后成本花费,并且能对应处理更大量资料、工作负载。
类似情况,包含Google、微软在内公有云服务业者也先后投入客制化处理器设计,目的在人工智慧运算应用发展降低仰赖NVIDIA等加速晶片供应需求。
不过,即便AWS在内公有云服务业者推出自有客制化处理器,以公有云服务依然持续提供不同基础架构环境的情况来看,与NVIDIA、Intel、AMD仍会维持供应合作关系,目前公有云服务业者投入的自有客制化处理器多半是针对特定布署使用需求设计,例如对应更低运作功耗,或是以更敏捷等情形,因此对于NVIDIA在内晶片供应商而言,实际造成冲击依然有限。
《原文刊登于合作媒体mashdigi,联合新闻网获授权转载。》