Red Hat宣布收购Neural Magic　AI战力再提升

▲Red Hat宣布收购Neural Magic。（图／Red Hat提供）

记者高兆麟／综合报导

原始码软体解决方案供应商 Red Hat 近日宣布已签署收购 Neural Magic 的最终协议，Neural Magic 为提供能加速生成式 AI 推论工作负载的软体与演算法领导业者，其在推论效能工程的专业技术及对开源的承诺与 Red Hat 的愿景一致，致力于在跨混合云环境中的任何一处皆能实现高效能 AI 工作负载，并满足客户特殊的应用情境和资料。 尽管生成式 AI 的前景在当今科技领域中已占据主导地位，然支撑其系统的大型语言模型（LLM）规模仍持续扩大。因此，为建置具成本效益且可靠的 LLM 服务，企业需要大量的运算资源、能源，以及专业的营运技能。多数企业因上述挑战而难以享受到客制化、部署就绪且更具安全性的 AI 所带来的优势。 Red Hat 期望能借由 vLLM 的开源创新赋能更多企业更易于使用生成式 AI，从而应对其面临的挑战。vLLM 是由加州大学柏克莱分校开发、由社群驱动的开源专案，专注于开放模型服务（即生成式 AI 模型如何推论与解决问题），支援所有主要模型系列、先进的推论加速研究及多种硬体后端，包含 AMD GPU、AWS Neuron、Google TPU、Intel Gaudi、NVIDIA GPU 和 x86 CPU。结合 Neural Magic 在 vLLM 专案中的领导地位与 Red Hat 强大的混合云 AI 技术产品组合，将为企业提供一条开放的途径，打造能满足独特需求的 AI 策略，无论资料位于何处皆可实现。 Red Hat 总裁暨执行长 Matt Hicks 表示：「无论企业的资料位于跨混合云中的任何位置，AI 工作负载皆必须能正常运行。因此，灵活、标准化且开放的平台和工具成为必然，赋能企业得以选择最符合其营运和资料需求的环境、资源和架构。很高兴能透过 Neural Magic 突破性的 AI 创新完善我们专注于混合云的 AI 产品组合，驱使我们不仅做为开源的『Red Hat』，也成为 AI 领域的『Red Hat』。」 Neural Magic 执行长 Brian Stevens 说明：「业界已一次次证明开源能透过社群协作的力量推动创新。Neural Magic 汇聚了业界顶尖的 AI 效能工程专家，专注于打造开放、跨平台且超高效的 LLM 运行能力。加入 Red Hat 不仅是企业文化的契合，更将协助各规模的企业加速 AI 转型之旅。」 IBM Research 资深副总裁暨院长 Dario Gil 表示：「随着客户积极寻求在跨混合环境中扩展 AI，基于开放基础的虚拟化和云端原生 LLM 将成为业界标准。结合 Red Hat 在开源领域中的领导地位、IBM Granite 高效的开源模型，以及 Neural Magic 跨平台的 AI 扩展解决方案，将赋能企业于内部部署 AI 所需的控制力与弹性。」

Neural Magic 于 2018 年自麻省理工学院（MIT）独立，旨在开发高效能的深度学习（deep learning）推论软体。Neural Magic 的技术和效能工程专业加上 Red Hat 的 AI 技术产品组合，将驱动 Red Hat 加速实现 AI 未来愿景。

Red Hat 将借由 Neural Magic 在 vLLM 技术的领导地位，强化支援 LLM 部署的 AI 能力，赋能跨混合云环境中随时随处部署，并提供现成、高度优化且开放的推论技术堆叠。