AWS擴展開源AI代理框架Strands Agents 不再侷限於雲端、可進駐離線終端裝置
AWS针对其开源、模型驱动的AI代理 (AI Agent) 框架「Strands Agents」释出两项重要更新,其中包含迎合广大的网页开发社群,推出TypeScript版本的SDK预览版,其次则是正式开放支援边缘装置 (Edge Device) 布署应用,让AI代理不再局限只能布署于云端,而是能在小型终端设备上运作。
拥抱最热门语言,Strands Agents框架TypeScript版本预览版登场
Strands Agents原先仅提供Python版本,目前已经累积超过529万9000次下载量。为了进一步扩大开发者生态,AWS将此框架带入全球最受欢迎的程式语言之一,亦即由微软开发、维护,并且以开源形式提供使用的TypeScript,意味透过Strands Agents框架建构AI代理服务能透过网页形式提供使用。
AWS指出,开发者喜爱TypeScript的原因,在于其能提早捕捉错误并提供强大的工具支援,同时保留JavaScript的应用弹性。新版Strands Agents SDK将全面支援TypeScript的关键特性,包含型别安全 (type safety)、async/await处理非同步操作方式,以及现代化的JavaScript/TypeScript设计模式。
这代表开发者可以透过AWS CDK工具组,以TypeScript构建完整的AI代理技术堆叠。
支援边缘运算,整合Ollama与Llama.cpp
另一项重大更新,则是Strands Agents框架正式支援边缘装置。此功能让客户能利用Strands Agents框架SDK创建可运行于小型设备上的自主AI代理 (autonomous AI agents),进而解锁诸如车载系统 (automotive)、游戏助理,以及机器人 (robotics) 等领域的新应用场景。
而开发者还能实作双向串流功能,并且支援使用如Ollama与Llama.cpp等工具,借此运行装置端模型,使得AI代理服务能大幅降低对云端连线的依赖,也强化在网路连接受限环境下的AI代理服务执行效率与数据隐私性。
AWS目前已将相关资源更新至Strands Agents GitHub页面,并且开放全球开发者加入构建行列。
《原文刊登于合作媒体mashdigi,联合新闻网获授权转载。》