針對邊緣運算的需求,Arm Neoverse 邊緣運算解決方案的整個生態系統,已經對這個挑戰作出回應。展望未來,Arm表示將聚焦在為次世代的基礎設施科技奠定基礎,重點則擺在 AI 要如何才能更為分散。
Arm指出,由於大型資料集與專屬的運算相當集中的緣故,今日較為吃重的 AI 運算多數在雲端完成,特別是機器學習 (ML) 模型的訓練。但若把這些模型應用到真實世界中靠近決策點的推論時,以雲端為中心的 AI 模型就會捉襟見肘。資料傳輸數千英里來到資料中心進行模型比較時,可能會碰到不少延時的問題,因此,沒有人能保證下決定時它是否仍然有用。當時間事關緊要時,把智慧由雲端分配到邊緣,就相當合理。
Arm 最近宣布將把 bfloat16 資料格式加入下一個版本的 Armv8-A 架構中。此一重要的強化將大幅提升基於 Arm 矽智財的 CPU 的訓練與推論效能,並將 bfloat16 的支援性加入 Neoverse「宙斯」(Zeus) 平台來強化速度,預計明年就可推出。次世代的 Neoverse 核心「宙斯」(Zeus) 威力強大,具有 Bfloat 16 功能,可為 AI 工作負荷帶來增強的機器學習能力與運行時間。
此外,Arm也宣布推出 Project Cassini。瞄準基礎設施邊緣的 Project Cassini 將與 Arm 的生態系統夥伴合作,開發平台標準與參考系統,並以它們為基礎,在目前已延展到基礎設施邊緣的標準化平台安全架構 (PSA) 框架內,無縫部署雲端原生的軟體堆疊。
Arm預計 2035 年達成的一兆個 IoT 裝置的世界,這將帶來全新規模的基礎設施與架構上的挑戰,技術也需要與時俱進才足以應付。Arm 將持續大量投資硬體、軟體與工具的開發,以便在基礎設施堆疊的每一個點,都賦予智慧決策能力。