Nexa.ai本地AI代理工具「Hyperlink」支援NVIDIA RTX AI PC RAG索引速度提升3倍、推論快2倍

AI新创Nexa.ai宣布,旗下开发的本地端AI代理 (AI Agent) 工具「Hyperlink」,正式针对NVIDIA RTX AI PC进行最佳化。透过运用GeForce RTX GPU的强大算力,新版应用程式在检索增强生成 (RAG) 的索引速度上提升了3倍,LLM推论速度也提升了2倍,可解决传统大型语言模型缺乏使用者在地端资料上下文的难题。

解决「AI 不懂你的电脑」痛点,采语意理解而非关键字

虽然目前的AI聊天机器人功能强大,但往往因为无法存取使用者电脑中深藏于PDF、PPT、笔记或图片内的资讯,导致回答缺乏针对性。而Hyperlink的设计初衷则是透过建立本地文件索引,让AI能理解使用者查询的意图与上下文,而非仅依赖传统的关键字比对。

举例来说,当使用者请求协助撰写「一篇比较两部科幻小说主题的读书报告」时,Hyperlink便能透过语意分析找到相关资料,即便该内容的档案名称是完全不相关的「Lit_Homework_Final.docx」,也能精准定位。

RTX 5090加持,1GB资料索引仅需5分钟

在效能提升方面,Nexa.ai表示,在NVIDIA RTX 5090显示卡上进行的基准测试显示,过去处理一个1GB的高密度资料夹索引约需15分钟,而在经过RTX AI PC最佳化后,Hyperlink仅需4-5分钟即可完成索引。

意味使用者能更快速地将本地资料转化为可被AI检索的即时智慧,而在LLM的推论速度倍增情况下,更可让问答回应更为即时。

资料全在地端处理,锁定商务、学术与开发场景

隐私安全是Hyperlink的另一大卖点。官方强调所有使用者资料皆保留于地端设备,无需将个人文件上传至云端,确保敏感资讯不外泄。

Hyperlink目前锁定的应用场景相当广泛,包含:

•会议准备:汇整笔记与逐字稿重点。

•报告分析:引用产业报告数据提供有依据的答案。

•高效学习:一键搜寻讲义与教材重点。

•加速除错:跨档案与程式码注解搜寻,定位版本冲突。

Hyperlink应用程式即日起已开放下载,持有NVIDIA RTX显示卡的用户将能获得最佳化的AI搜寻体验。

《原文刊登于合作媒体mashdigi,联合新闻网获授权转载。》