從美國AI & Big Data Expo看生成式AI創新發展

※如欲转载本文,请与北美智权报联络

吴碧娥╱北美智权报 编辑部

AI and Big Data Expo为全球十大AI展会之一,每年分别于北美、欧洲各举办一场国际大规模展会,主要展示企业人工智慧、机器学习、资讯安全、可信任AI、深度学习以及自然语言处理等创新产品与技术,从2017年举办首届展会开始,累计250名以上业界专家到场演讲,每场次均吸引7,000名以上专业人士与会。

2024年北美地区的AI and Big Data Expo,已于6月5日至6月6日在美国圣荷西的圣塔克拉拉国际会议中心举办,在两天的展会时间里,展示来自Google Cloud、IBM、Oracle、Dell Technologies等250多家参展商最前沿的人工智慧技术。今年展会关键议题包括企业生成式AI采用策略、负责任AI、生成式AI对劳动力影响、运用AI推动数位转型等范畴。

资策会日前举办【MIC大展直击】国际主要AI展会重点观测线上研讨会,透过MIC分析师现场直击与分享,提供产业人士在AI创新与未来发展方向上的参考。

展望未来:下一个十年之生成式AI进展

企业资料多属于时间序列资料,不一定非要使用大型语言模型才能分析或预测,使用善于处理时间序列资料的知识图谱技术,也能有效提供企业决策所需的分析。美国新创公司Ikigai在麻省理工学院长年以来的AI研究基础上,研发出具专利的大型图像模型(Large Graphical Model,LGM),善于分析结构化的表格与时间序列资料,将不同资料之间的复杂关系视觉化。

资策会产业情报研究所产业分析师杨淳安指出,大型语言模型(LLM)是基于Transformer 模型,以线性方式分析高维度资料,需大量训练资料集才能提供高品质的答案;而LGM则是超越线性结构,能按顺时间、逆时间、最大金额到最小金额的顺序等进行分析,稀疏的资料集也能提供精确分析。举例来说,LGM可透过销售趋势、社群媒体、广告支出和失业率分析各种资料,协助零售商准确预估季节性的劳动力需求,根据AI预测结果做出最适当的人员配置决策,例如A、B、C 商店需要增加50%的季节性员工而X、Y、Z 商店只需增加10%的员工。

Ikigai于2024年3月成立AI道德委员会,汇集资料科学、AI和道德演算法、法律和国家安全领域等具有不同背景和经验的学者和企业家,旨在解决当今最急迫的生成式AI安全问题并提供指导方针,AI道德委员会每季召开一次会议讨论AI治理、资料最小化、保密性、合法性、准确性等重要议题,于会后发布组织应考虑的行动和后续步骤建议。今年在AI and Big Data Expo中发表主题演讲的Ikigai总裁Kamal Ahluwalia也预测,下一个十年的人才将有1/3被生成式AI替代、1/3成为与生成式AI协作、1/3则是出现新型态的人才与工作类型,像是AI 提示工程师(Prompt Engineer)。

而总部位于美国加州的大型跨国金融服务公司Visa,在过去十年投入大量资金发展AI相关服务,随着生成式AI崛起,Visa技术发展蓝图结合分析型AI与生成式AI,也是今年AI and Big Data Expo的代表性参展商。

图1. Visa公司的AI发展策略 ;资料来源:Visa,MIC整理,2024年6月

Visa将分析型AI+生成式AI应用于六项金融服务,其中,即时侦测诈欺活动是生成式AI重点发展项目,使用生成式AI能输入更多资料、模型训练速度更快,而检索增强生成技术(Retrieval-Augmented Generation,简称RAG)有助于强化诈欺侦测能力。在人才培育方面,Visa致力于培育人才的Copilot能力(透过寻找资讯建立原创内容,并快速完成工作),以发挥生成式AI的最大效用。

由于Visa是大型的跨国金融服务公司,虽然积极采用生成式AI等新兴技术,但同时也相当关注风险与挑战,透过研究各国法规政策,制定Visa内部的AI原则,减缓生成式AI导致的道德伦理议题。Visa认为,确保演算法是否公平且没有歧视、强化资安防护避免受到生成式AI导致的骇客攻击、相同的问题或Prompt应得到相同的答案、落实资料治理与监管措施以保护资料隐私,将成为生成式AI所带来四大风险与挑战。因此,Visa的生成式AI发展策略紧扣三大核心理念,运用生成式AI提升生产力的同时,也必须注意伴随的风险,以建立可信任AI为核心原则,发展安全可靠的数位金融服务。

AI向量资料是生成式AI生态系的重要关键

AI 向量检索(AI Vector Search)是基于语意检索(Semantic Search)的新兴检索技术,Vector是一连串称为「Dimensions」的数字,用来获取资料的关键特征,透过ML Embedding Model生成,主要用于相似度检索,可以帮助大型语言模型透过检索RAG技术,提供更准确且与上下文相关的结果,且无需管理和整合多个资料库。

杨淳安指出,若采用传统的向量资料库汇集企业各种形式的资料内容,容易产生资料过时、架构复杂等痛点;大型科技软体公司甲骨文(Oracle)今年展出在资料库方面的强项,透过LLM结合AI向量检索,能有效解决此痛点,即时检索出具领域知识的企业资料内容。AI向量检索搭配资料检索与生成功能的RAG技术,可望有效回答用户问题。

Oracle日前宣布推出23ai资料库服务(Oracle Database 23ai),是Oracle融合式资料库的最新版本,包含Oracle AI Vector Search 和超过 300个主要功能,着重于简化AI与资料的使用、加速应用程式开发及执行关键任务工作负载。使用生成式AI让用户以自然语言查询储存于Oracle资料库中的企业资料,将AI演算法带到资料所在的位置,而不是将资料移至AI演算法所在的位置,可在Oracle资料库中即时执行AI,大幅提升AI的有效性、效率和安全性,不论是否具备程式开发的基础都能使用,有助于提升企业内部所有人才的数位转型能力[1]。

一站式生成式的AI开发平台,解决人才不足痛点

Lightning AI公司前身是Grid.ai,后来因为发明用于训练AI模型的深度学习框架PyTorch Lightning,在AI开发领域受到好评而改名Lightning AI。自2019年以来,Lightning AI致力于提供训练、微调以及部署AI模型的开发平台,让用户无需担心基础设施、成本管理和其他技术问题。Lightning AI提供一站式生成式AI开发平台,提升模型的开发效率并降低成本,为企业解决开发AI模型会面临的人才不足与缺乏好用工具的痛点。

图2. 发明AI模型的深度学习框架的Lightning AI公司 ;资料来源:Lightning AI ,MIC整理,2024年6月

根据Lightning AI的调查发现,企业在开发AI模型时,主要面临的痛点是缺乏AI人才、预算不足以及缺乏好用的开发工具,加上开发AI模型必须先建立基础设施,由于基础设施的技术架构过于复杂,导致容易产生配置错误的情形,造成企业在资源上的损失,为了解决上述痛点,Lightning AI将所有AI开发工作流程整合至Lightning AI Studio,从基础设施的设定、模型框架到部署都能一站式完成,成功缩短AI模型的训练时间。Lightning AI认为新型态AI人才并非要具备艰深的技术能力,而是能善用新兴工具进行开发与维运,Lightning AI借由优化操作介面,提供更好用的AI模型开发工具,协助企业培育新型态的AI人才。

资料来源:

1. 2024/7/4~2024/7/18,【MIC大展直击】国际主要AI展会重点观测线上研讨会,杨淳安简报。

备注:

1. 2024/5/2,Oracle:Oracle Database 23ai 为企业资料和应用程式带来 AI 的强大功能。

骅讯电子总经理室特助

经济日报财经组记者

东森购物总经理室经营企划

延伸阅读&电子报订阅连结:

【详细内容请见《北美智权报》361期;欢迎订阅《北美智权报》电子报】