數發部升級算力池 擬砸億元經費再買AI晶片
数位发展部部长黄彦男。记者林俊良/摄影
数发部今天表示,产业AI算力平台共有64家业者申请使用,包括打造多国语言翻译器、淹水模型等多元应用;明年规划投入新台币1亿元经费进行平台维运、资安防护等,也会增购70片绘图处理器(GPU)为算力平台增添火力。
数发部长黄彦男日前受访时表示,对很多中小企业来说运用算力很困难,这项计划是去购买GPU,让中小企业跟新创可以免费使用,去做一些商业试验,如果确实有商业价值,业者后续也可以再购买正式算力服务。
数发部今年起推动为期4年的数位公共建设「数位产业跨域软体基盘暨数位服务跃升计划」,盼为软体产业打地基,加快AI落地应用。其中,数产署今年采用辉达的H100晶片32片、AMD的MI300X晶片8片,打造产业AI算力平台,提供业者免费申请。
数发部数位产业署说明,今年中开放业者申请算力平台,协助资服业者进行AI模型训练,业者报名踊跃,目前有64家业者获选使用中,其中新创公司占比逾半,应用领域广泛,包括公益与教育、医疗健康与防灾、制造与运输业等。
至于业者运用算力平台打造哪些应用,数产署举例,有厂商规划打造「多国语言直译器」,使用国语、台语、客语以及东南亚国家像是泰国跟印尼的语料库,训练语音模型,未来可发展多语种翻译系统,协助新住民在台生活,有机会提供台语直译印尼话等功能。
数产署进一步说,也有业者运用超过17万笔降雨量、水位、雨水下水道容量、历史洪灾等数据,训练10亿参数的预测淹水模型,以提升防洪预警能力;或是规划打造环保科技执法的辅助工具,利用3万张露天燃烧及2万张烟雾图片,训练辨识空污的AI智慧模型等。
数产署表示,建立AI算力平台的目的,短期可协助资服与新创业者进行AI模型训练,降低业者生成式AI模型的开发成本。不过,长期会回归市场机制,由民间业者提供持续的算力服务,促进业者未来AI应用加值服务的商业机会。
为了因应愈来愈庞大的语言模型需求,数产署说明,考量扩大对软体资服新创的协助及训练专属资安模型,明年算力平台整体经费预计投入约1亿元,运用在建置及维运AI算力池,涵盖机房代管、网路频宽、资料备份、资安防护等,也规划采购算至少70片GPU,不过仍待立法院审议通过后才能确定最终预算规模。