英国AI初创公司借30美元板性能能耗大飞跃

早在 2024 年 3 月，我们就曾报道，英国人工智能初创公司 Literal Labs 如何凭借其 Tseltin 机器（这是一种采用基于逻辑的学习方式来对数据进行分类的机器学习模型），致力于让基于 GPU 的训练成为过去式。

它依靠 Tsetlin 自动机来运行，这种自动机能够在输入数据的特征和分类规则之间建立起逻辑连接。

根据决策的正确与否，机器会通过奖励或惩罚的方式来调整这些连接。

这种方法由苏联数学家米哈伊尔·采特林（Mikhail Tsetlin）于 20 世纪 60 年代开发，这种方法与神经网络形成对比，其侧重于学习自动机，而非对生物神经元进行建模，以完成分类和模式识别等任务。

现在，由 Arm 支持的 Literal Labs 开发了一种使用特斯林机的模型，尽管其尺寸紧凑，仅为 7.29KB，但却提供了高精度，并极大地改进了用于边缘 AI 和物联网部署的异常检测任务。

该模型由 Literal Labs 使用 MLPerf 推理：微型套件进行基准测试，并在价值 30 美元的NUCLEO-H7A3ZI-Q 开发板上进行测试，该开发板具有 280MHz 的 ARM Cortex-M7 处理器，并且不包含 AI 加速器。结果表明，Literal Labs 的模型达到的推理速度比传统神经网络快 54 倍，同时能耗减少 52 倍。

与行业中表现最佳的模型相比，Literal Labs 的模型在延迟方面有了改进，并且具备节能设计，使其适用于传感器等低功耗设备。其性能使其在工业物联网、预测性维护和健康诊断等应用中行得通，在这些应用中，快速准确地检测异常情况至关重要。

使用这种紧凑且低能耗的模型有助于在各个领域扩大人工智能的部署规模，降低成本并提高人工智能技术的普及程度。

Literal Labs 表示：“在这类部署中，较小的模型尤其具有优势，因为它们所需的内存和处理能力更少，从而能在更经济实惠、规格更低的硬件上运行。这不仅降低了成本，而且还拓宽了能够支持高级人工智能功能的设备的范围，使在资源受限的环境中大规模部署人工智能解决方案变得可行。”