《科技》云端→终端!高通:边缘AI将掀生成式AI革命

江昆霖强调,装置上AI(On-Device AI)具备多项优势,包括即时反应、资料隐私保护、安全性、高效能、稳定性与个人化体验,未来将成为生成式AI应用落地的主要平台。根据Tirias Research研究指出,若仅将20%的生成式AI运算从云端转移至边缘装置,并结合小型与混合式模型处理,预估到2028年可为云端基础设施节省高达160亿美元的总体拥有成本(TCO)。

他进一步表示,混合式AI(Hybrid AI)将是未来主流,透过高速连接技术,让手机、PC、汽车与物联网装置与云端协同运作,提供更高效、稳定且最佳化的AI体验。

在装置端AI发展方面,高通持续扮演领头羊角色。江昆霖指出,高通推出的AI协调器(Qualcomm AI Orchestrator),能根据使用者的个人偏好、当下情境与应用内容,主动提供个人化且即时的AI服务,支援文字、语音、影像等多模态互动,打造更贴近使用者的智慧AI代理(Agentic AI)体验。

针对开发者资源,高通也积极拓展AI生态系。江昆霖表示,高通近期已在Qualcomm AI Hub中导入支援台湾首个本土AI模型TAIDE(Trustworthy AI Dialogue Engine),让开发者可直接下载并整合经过预先最佳化的上百种AI模型,大幅缩短开发时程,并实现装置上AI的效益。

此外,Qualcomm AI Hub目前已支援繁体中文介面与文件,进一步降低开发门槛,鼓励更多台湾开发者加入AI应用创新行列。江昆霖补充,目前Snapdragon X系列的AI运算核心(NPU)已与超过60家AI独立软体供应商合作,涵盖超过140项实际AI应用场景,展现高通在装置端AI生态的深厚实力。