NVIDIA針對台灣、日本推出符合在地語言與文化的NIM微服務 加速佈署各類主權AI應用項目

NVIDIA在今年GTC 2024活动公布的NIM微服务，目前已经在台湾与日本地区推出可用于自动生成式人工智慧的四款全新微服务，借此加速布署各类主权人工智慧应用项目。

此次推出的四款全新NVIDIA NIM微服务，将让开发者能更容易建置、布署高效能的自动生成式人工智慧应用服务，并且可依照在地需求量身订做，借此符合在地语言、文化，同时透过准确理解和改善的回应，借此强化与使用者的互动。

而全新NVIDIA NIM微服务分别整合使用日文资料训练出的Llama-3-Swallow-70B，以及使用台湾在地中文资料训练出的Llama-3-Taiwan-70B，两者均以Llama 3 70B模型为基础打造，另外也包含建立在Mistral-7B模型基础上的RakutenAI 7B系列模型，分别以英文及日文资料集进行训练，主要应用在日本乐天旗下服务。

与Meta开源提供的Llama 3等大型自然语言模型相比，此类模型在理解日语、台湾在地中文，以及处理当地法律任务、回答问题，并且进行语言翻译与总结方面的表现更为优异。

借由导入在地语言模型，开发者将能利用NIM微服务建立更符合在地互动体验的应用功能，并且透过API形式使用全新的NIM微服务，并且广泛应用在医疗保健、金融、制造业、教育与法律相关领域。

目前包含东京工业大学全球科学资讯与运算中心 (Global Scientific Information and Computing Center)、台湾长庚纪念医院、和硕联合科技、长春集团、欣兴电子、科技报橘、律果科技，以及自动生成式人工智慧新创APMIC均以NVIDIA NIM微服务打造各类应用项目。

另一方面，借由NVIDIA AI Foundry平台，企业亦可针对需求量身打造客制化人工智慧模型，透过各类基础模型结合NVIDIA NeMo服务进行微调，配合NVIDIA DGX Cloud与各类技术堆叠，即可借由NVIDIA NIM微服务客制化各类模型。

《原文刊登于合作媒体mashdigi，联合新闻网获授权转载。》