黄仁勋烤箱端新货!辉达生成式AI超级电脑 价格砍半卖249美元
记者高兆麟/综合报导
辉达(NVIDIA)在圣诞节推出大礼,推出体积小巧的新款生成式人工智慧(AI)超级电脑,透过软体升级的方式,以更低价格提供更高效能,在NVIDIA释出的最新影片中,NVIDIA执行长黄仁勋从烤箱中拿出一台小巧的电脑晶片,也就是新推出的NVIDIA Jetson Orin Nano Super,不仅大小仅手掌一般大,价格更砍半至249美元。
▲辉达创办人暨执行长黄仁勋。(图/记者汤兴汉摄)
新款NVIDIA Jetson Orin Nano Super开发者套件仅手掌大小,不论是商业AI开发人员业余者与学生,都可以享受到更棒的生成式AI功能和更高的效能。价格也从499美元降至249美元。
与前代产品相比,这款在今天上市的产品能够将生成式AI的推论效能提高1.7倍、运算效能提高70%至67 INT8 TOPS,记忆体频宽加大50%至每秒102 GB。无论是使用检索增强生成技术来建立LLM聊天机器人、建立视觉AI代理,还是部署AI机器人,Jetson Orin Nano Super都是理想的解决方案。
对于已经拥有Jetson Orin Nano开发者套件的使用者而言,新款 Jetson Orin Nano Super 的软体更新服务也将提高运行生成式 AI 的效能。Jetson Orin Nano Super适合有兴趣发展生成式AI、机器人或电脑视觉技能的人士使用。随着AI世界正从特定任务模型朝着基础模型的方向转变,它也提供了一个容易使用的平台,能够协助将想法转化成现实。
Jetson Orin Nano Super 更强大的运算效能能够运行各种热门的生成式 AI 模型和以 transformer 为基础的电脑视觉。这款开发者套件包含一个Jetson Orin Nano 8GB系统模组(SoM)与一个参考设计载板,提供开发边缘AI应用原型的理想平台。
这个SoM搭载 NVIDIA Ampere 架构GPU及Tensor核心,以及6核心Arm CPU,能够同时运行多个AI应用管道与进行高效能推论作业。它最多可支援四具摄影机,提供比过去版本更高的解析度与帧率
生成式AI正迅速发展。NVIDIA Jetson AI Lab可立即支援由开源社群所发展出的尖端模型,并且提供简单易用的教学内容。开发人员也可以从规模更大的Jetson 社群得到更多支援,以及从开发人员建立的项目里获得灵感。
Jetson能够执行NVIDIA AI软体,包括用于机器人的NVIDIA Isaac、用于视觉 AI 的NVIDIA Metropolis,以及用于处理感应器资料的NVIDIA Holoscan。使用NVIDIA Omniverse Replicator来产生合成资料,以及使用用于微调NGC 目录里预先训练好的 AI 模型的 NVIDIA TAO Toolkit可缩短开发时间。
Jetson 生态系合作伙伴提供额外的AI与系统软体、开发者工具,以及开发专属软体。他们也能够协助提供摄影机和其他感测器,以及载板和产品解决方案的设计服务。
Jetson Orin NX 与 Orin Nano 系列系统模组同样能够借由软体更新服务,将运行生成式 AI 的效能提高 1.7 倍。