英國AI初創公司借30美元板性能能耗大飛躍

早在 2024 年 3 月，我們就曾報道，英國人工智能初創公司 Literal Labs 如何憑藉其 Tseltin 機器（這是一種採用基於邏輯的學習方式來對數據進行分類的機器學習模型），致力於讓基於 GPU 的訓練成爲過去式。

它依靠 Tsetlin 自動機來運行，這種自動機能夠在輸入數據的特徵和分類規則之間建立起邏輯連接。

根據決策的正確與否，機器會通過獎勵或懲罰的方式來調整這些連接。

這種方法由蘇聯數學家米哈伊爾·採特林（Mikhail Tsetlin）於 20 世紀 60 年代開發，這種方法與神經網絡形成對比，其側重於學習自動機，而非對生物神經元進行建模，以完成分類和模式識別等任務。

現在，由 Arm 支持的 Literal Labs 開發了一種使用特斯林機的模型，儘管其尺寸緊湊，僅爲 7.29KB，但卻提供了高精度，並極大地改進了用於邊緣 AI 和物聯網部署的異常檢測任務。

該模型由 Literal Labs 使用 MLPerf 推理：微型套件進行基準測試，並在價值 30 美元的NUCLEO-H7A3ZI-Q 開發板上進行測試，該開發板具有 280MHz 的 ARM Cortex-M7 處理器，並且不包含 AI 加速器。結果表明，Literal Labs 的模型達到的推理速度比傳統神經網絡快 54 倍，同時能耗減少 52 倍。

與行業中表現最佳的模型相比，Literal Labs 的模型在延遲方面有了改進，並且具備節能設計，使其適用於傳感器等低功耗設備。其性能使其在工業物聯網、預測性維護和健康診斷等應用中行得通，在這些應用中，快速準確地檢測異常情況至關重要。

使用這種緊湊且低能耗的模型有助於在各個領域擴大人工智能的部署規模，降低成本並提高人工智能技術的普及程度。

Literal Labs 表示：“在這類部署中，較小的模型尤其具有優勢，因爲它們所需的內存和處理能力更少，從而能在更經濟實惠、規格更低的硬件上運行。這不僅降低了成本，而且還拓寬了能夠支持高級人工智能功能的設備的範圍，使在資源受限的環境中大規模部署人工智能解決方案變得可行。”