微軟提出「AI Dev Gallery」開源開發應用資源 可在Windows裝置端導入AI應用功能

微软近期针对搭载Windows 11作业系统的「AI PC」装置推出名为「AI Dev Gallery」开源开发应用资源,让开发者能在应用服务导入装置端人工智慧应用功能。

「AI Dev Gallery」开源开发应用资源可让开发者使用各类人工智慧模型,依照应用程式设计需求导入各类人工智慧应用功能,同时针对装置端执行运作需求打造,因此能在没有网路连线情况下使用,执行速度也比需要连网使用的大型人工智慧模型有更快反应表现。

目前包含Windows 10、Windows11,以及包含x64、Arm64架构设计的应用程式都可相容「AI Dev Gallery」开源开发应用资源。而要使用此支援,装置必须搭载16GB以上记忆体,以及20GB以上的储存容量,若需要执行更快、运算密度更高的应用服务,则建议可搭配内建8GB显示记忆体的独立显示卡。

虽然越来越多业者推出各类大型自然语言模型 (LLM),借此推动互动更贴近自然的人工智慧互动使用体验,但由于多半仰赖网路连接,因此执行效率往往会受网路环境影响,目前则有更多业者开始发展小型自然语言模型 (SLM),并且透过微调、蒸馏等方式让人工智慧模型精进,使其在特定执行表现能接近大型自然语言模型表现,同时也能保留更高效率执行速度。

微软目前除了与OpenAI持续合作,本身也提出Phi系列小型自然语言模型,标榜能以更轻快特性执行,并且计划应用在其服务内,借此降低人工智慧应用服务执行成本。

《原文刊登于合作媒体mashdigi,联合新闻网获授权转载。》