聯發科攜手群聯 共同推動生成式 AI 運算與服務
手机晶片大厂联发科(2454)与NAND Flash控制晶片与模组大厂群联于15日宣布策略联盟,群联的AI运算服务「aiDAPTIV+」将与联发科旗下的生成式AI服务平台「MediaTek DaVinci」深度整合,共同推动生成式AI运算与服务。
「MediaTek DaVinci」平台是联发科基于GAI服务框架(GAISF)打造的一款生成式AI服务开放式平台,开发者可在平台上开发各类实用的插件,提升使用者的互动体验。
至于群联推出的「aiDAPTIV+」服务方案,通过其SSD整合AI运算架构,可将大型AI模型进行结构性拆分,并与SSD协同运行,可大幅降低AI基础建设的硬体成本,还提高运算效率,使得在有限的GPU与DRAM资源下,也能训练大型AI模型。
双方预期,合作效益包括创新的AI运算架构,「aiDAPTIV+」的模型结构分拆,并与SSD协同运行技术,可支援更大型AI模型的训练,并可降低AI服务的硬体建构成本,还提升「MediaTek DaVinci」平台的扩展性,结合「aiDAPTIV+」后,将为开发者提供更多元客制化插件的开发可能性,同时,也能加速部署地端AI应用。
双方也强调,透过「aiDAPTIV+」技术方案与「MediaTek DaVinci」平台的合作,AI伺服器厂商将能提供完整的地端软硬体整合方案,使AI伺服器产品更具竞争力,为终端客户提供一站式的AI服务。