終於等到繁中版 華碩旗下台智雲再掀生成式AI熱潮

华硕云端暨台智云总经理吴汉章。台智云/提供

AI 2.0浪潮席卷世界,华硕(2357)旗下台智云在5月台湾AI超算年会,基于开源大语言模型BLOOM推出「福尔摩沙大模型」(FFM-176B及FFM-7B);此次更全球首发「繁体中文强化版FFM-Llama 2大语言模型」,包含70B、13B及7B全系列,支援Code Llama程式开发与Embedding增强语意搜寻模型,提供云端、地端及AI PC等多样态大语言模型及完整AFS(AI Foundry Service)服务,加速企业AI 2.0落地应用。

华硕云端暨台智云总经理吴汉章表示,过去30年台湾ICT产业基于开放架构,一跃成为全球数位创新重要伙伴,在晶片、半导体、系统与资讯服务产业百花齐放。台智云以开放模式提供可信赖大语言模型,累积AI超算功能及完整AI工具平台,降低企业进入门槛,加速AI 2.0应用;期待能与合作伙伴延续台湾产业优势,实现普惠AI、发展以人为本的智慧科技。

台智云FFM-Llama 2以最新大语言模型Meta Llama 2为基础,借由AIHPC超级电脑算力、高效平行运算环境与大语言模型切割技术,训练大量台湾在地语料,大幅提升FFM-Llama 2繁体中文能力;全系列模型可进行微调、部署与推论,企业用户亦能以自订系统提示词,让AI模型思考更在地、更精准回应企业需求。

台智云AFS推出全参数及高效率模型微调(Parameter-Efficient Fine-Tuning;PEFT)功能,在GPTQ 4-bit高性能压缩技术优化下,提供经济实惠的云端或地端模型推论方案;「福尔摩沙大模型」发布至今,已服务超过70个大型企业,电信业者台湾大哥大(3045)便将智能客服导入生成式AI应用,未来可望扩展至集团不同产业面以精进客服效率。

利用台智云「AIHPC超级电脑服务」、「CCS(Container Compute Service)容器运算服务内建生成式AI映像档」、「AFS(AI Foundry Service)企业级生成式 AI 解决方案」及「OneAI机器学习MLOps nocode AI平台」4大生成式AI算力平台,全方位满足产业对生成式AI可信赖、可掌控、资料安全及地端部署需求。

延伸阅读