《资服股》叡扬聚焦LLM技术 提供高效弹性Fine-Tuning策略

数位发展部正大力推动「台湾AI行动计划2.0」,日前活动现场叡扬展示多款将AI技术结合应用系统的前后处理,如运用机器学习技术辨识影印或影像档的财报资料,金融产业将OCR加入AI元素,即使影像有斜式或盖章等干扰,也能够高达90%以上的成功辨识率,接着串接到会计与征授信系统,减少使用者90%以上的登打与核对时间。

另外,广为被使用的公文管理与知识管理系统在结合AI及LLM下,辅助使用者快速且正确地完成公文撰写或查找完善资讯,如同随时都有资深且贴心的同仁手把手协助,让人工智慧助益组织文化知识传承与效能跃进。AI、LLM等技术可以为知识管理提供新功能优势,尤其知识管理系统具备良好的协作介面让团队成员无形中留存高品质对话、创化内容,提高组织知识汇集、协作共享及权限管理避免产权泄漏。

而组织的各类系统,也能透过叡扬的机器人生成平台快速生成对话式服务;非资讯人员也能透过视觉化的操作平台,将组织的流程与知识转化设计出对话机器人,融合AI理解后,更能透过口语化的问与答提供服务对象需要的解答或引导至正确的系统,呈现直觉的人机介面。

对于LLM及AI技术,叡扬从2013年开始投入,由NLP 、机器学习开始,团队持续研读论文、试验各类模型,落地解决实务问题,后续延伸到图像区块辨识及内容物辨识的应用。2022年底GPT的出现,出现更多可探索的机会与挑战,叡扬过去在AI的实作经验,可较快测试厘清哪些问题不用LLM就可完成,也可较快试验各推陈出新的LLM,符合市场需求。