NVIDIA携手Google Cloud　为企业带来代理型AI推理功能

▲NVIDIA。（图／记者高兆麟摄）

记者高兆麟／综合报导

NVIDIA 与 Google Cloud 合作，运用 Blackwell HGX and DGX 平台及 NVIDIA 机密运算（NVIDIA Confidential Computing）技术保护资料安全，并将代理型 AI（agentic AI）带给寻求在地端使用 Google Gemini 系列人工智慧（AI）模型的企业。

透过搭载 NVIDIA Blackwell 平台的 Google 分散式云端（Google Distributed Cloud，GDC），企业的地端资料中心可以锁定存取病患纪录、金融交易和政府机密资讯等机敏资讯的权限，以符合法规要求和资料主权法令。NVIDIA 机密运算技术还能保护 Gemini 模型中的敏感程式码，避免未经授权的存取与资料外泄。

Google Cloud 基础设施与解决方案部门副总裁暨总经理 Sachin Gupta 表示：「借由将我们的 Gemini 模型与 NVIDIA Blackwell 的突破性效能及机密运算能力相结合，我们让企业能够充分发挥代理型 AI 的潜力。这项合作有助于确保客户能够在不影响效能或操作便利性的情况下，安全地进行创新。」

NVIDIA Blackwell 的机密运算技术能为企业提供技术保障，包括 Gemini 模型应用程式介面的使用者提示及用于微调的资料，都能保持安全，无法被检视或修改。

与此同时，模型所有者可以防止未经授权的存取或窜改，提供双重保护，让企业能够在维护资料隐私的同时，利用 Gemini 模型进行创新。

随着代理型 AI 重塑企业技术格局，带来更强大解决问题的能力，这项全新解决方案应运而生。有别于根据学习到的知识来感知或生成内容的 AI 模型，代理型 AI 系统可以在动态环境中进行推理、适应与决策。例如在企业 IT 支援方面，以知识为基础的 AI 模型可以检索与提供故障排除指南，而代理型 AI 系统则能够自主诊断问题、执行修复，以及将复杂的问题呈报到更高层级进行处理。

同样地，在金融领域，传统的 AI 模型可以根据既有模式标示潜在的诈欺交易活动，代理型 AI 系统则能更进一步调查异常情况，并主动采取行动，例如在交易发生前即进行封锁，或是即时调整诈欺侦测规则。

虽然许多企业已经可以使用多模态推理的模型，整合文字、影像、程式码和其他资料类型来解决复杂的问题，并建立云端代理型 AI 应用，不过那些对安全或资料主权有着严格要求的企业却还无法实现。

随着这项消息的发表，Google Cloud 将成为首批提供机密运算功能的云端服务供应商之一，以保护无论是在云端或混合环境中的代理型 AI 工作负载。

这项解决方案由搭载 Blackwell GPU 与 NVIDIA 机密运算技术的 NVIDIA HGX B200 平台驱动，让客户能够保护 AI 模型与资料安全。这样可让使用者在不影响资料安全性或模型完整性的情况下，达到突破性的效能与能源效率。

展望未来，Google Cloud 正致力于整合专为跨 AI 工厂服务与扩充推理 AI 模型而打造的开源函式库 NVIDIA Dynamo，以提高代理型 AI 工作负载的可观察性。