儘管生成式人工智慧及大型語言模型已成為各界關注焦點,但許多人並不了解人工智慧技術早已廣泛部署於嵌入式裝置,影響著居家、城市及產業的諸多應用:也就是所謂的人工智慧物聯網(AIoT),它正是以 Arm 架構所建構。人工智慧在協助人們理解數據意義,並推動實體和數位世界之間更緊密的互動等方面扮演關鍵角色。
|
Arm台灣總裁曾志光 |
針對這樣的應用需求,Arm推出專為人工智慧物聯網(AIoT)應用設計的 Arm Cortex-M52,以因應更高的數位訊號處理和機器學習效能需求,而無需負擔專門配置數位訊號處理與機器學習加速器的成本。Cortex-M52 能在低於目前市場的價位優勢之上,充分發揮機器學習在嵌入式計算解決方案的潛能。
Arm 資深副總裁暨物聯網事業部總經理 Paul Williamson 表示,隨著人工智慧物聯網技術的演進與發展,終端智慧正以最低的價格點,被部署於體積更小、更注重成本、且通常以電池供電的裝置上,並因減少對雲端的仰賴,進而具備更高的隱私性及可靠性。隨著支援人工智慧的物聯網產品出貨量持續增加,我們的合作夥伴需要獲得更多的機器學習功能和更簡化的開發流程,以便擁有進行創新及快速擴展的靈活度。
將人工智慧功能導入到更廣泛的物聯網裝置
Cortex-M52 加入了 Arm Helium 技術,能為小型低功耗嵌入式裝置大幅提升數位訊號處理和機器學習應用效能,無需專屬的類神經處理器(NPU),即可在終端裝置部署更多運算密集的機器學習推論演算法。Helium 技術已成功部署到網路終端邊緣的各種產品,而 Cortex-M52 更可協助 Arm 合作夥伴,將這項技術導入到成本更低、且功耗更為受限的裝置之中。
Arm 將 Helium 技術延伸至全新級別的 Cortex-M 處理器,大幅改變小型嵌入式裝置微控制器的矩陣及數位訊號處理運算。Cortex-M52 簡化了自 Cortex-M33 及 Cortex-M4 轉移的途徑,可因應各種人工智慧物聯網應用需求,協助達成更豐富的使用者介面、語音及視覺體驗,例如汽車及工業控制、預測性維護,以及穿戴式感測器融合。Cortex-M52 提供涵蓋各種效能點及配置所需的擴充彈性,無需獨立處理單元即可提供數位訊號處理功能,有助於節省晶片面積和成本。
提供最佳的效能及成本選擇,且具備穩固的安全性與資安保護
Cortex-M52 延伸 Armv8.1-M Cortex-M 系列產品(包括 Cortex-M55 及 Cortex-M85)達到全新的效率點,成為在微控制器中導入機器學習功能的關鍵里程碑。這款處理器在所有支援 Helium 的 Cortex-M 處理器中,具備最小面積及最低功耗的特色,為需要權衡於效能及成本的晶片合作夥伴提供選擇。相較於前幾代的 Cortex-M 處理器,Cortex-M52 的機器學習效能提升 5.6 倍,數位訊號處理效能則提升 2.7 倍,讓開發人員能受益於這兩項效能的提升。
資安仍是各種裝置的關鍵重點,特別是在大量出貨的情況下尤其如此,而 Cortex-M52 實作 PACBTI 及 Arm TrustZone 技術等最新的 Armv8.1-M 安全性擴充方案,可進一步緩解軟體威脅。此外 Cortex-M52 可加速晶片通過 PSA Certified Level 2 認證,促成次世代 PSA Certified 認證通過的裝置。最新的 Armv8.1-M 核心(包括 Cortex-M55 及 Cortex-M85)也已就功能性安全(functional safety)功能進行強化,這對許多汽車及工業控制應用都至為關鍵。相較於部署在這些應用的前一代 Cortex-M 處理器,Cortex-M52 所提供的這類擴充安全套件及功能,能夠協助合作夥伴更快速輕鬆地通取得 FuSa 認證。
為最小的終端裝置簡化人工智慧開發流程
傳統的嵌入式開發人員,需要處理人工智慧所需的數學、數據分析、工具鏈專業知識及程式設計等技能。而要提高人工智慧物聯網產品的出貨量,開發人員的參與也極為重要;Arm 透過 Cortex-M52 提供當前現代化開發流程所需的關鍵特色及能力。
過往,若要達到 Cortex-M52 提供的機器學習及數位訊號處理效能,必須結合 CPU、DSP及 NPU;如此一來,在硬體建構完成後,開發人員需要使用三種不同的工具鏈、三個編譯器和偵錯工具,進行晶片的編寫、除錯及微調程式碼。現在 Arm 透過符合業界標準、且易於使用的 Arm Cortex-M 產品組合,在單一的工具鏈及經實證認可的單一架構上實現人工智慧的開發,如此即可確保以一致的開發流程處理傳統的、數位訊號處理及機器學習工作負載,同時為主要的機器學習框架進行特定整合及最佳化,使開發人員獲得順暢的開發體驗,並充分發揮任何 Cortex-M 處理器的最佳效能。
Cortex-M52 與 Cortex-M55 及 Cortex-M85 在軟體上完全相容,開發人員能夠受益於持續成長的 Helium 軟體與工具生態系,並善用來自 Arm 合作夥伴生態系的免費軟體函式庫與豐富的知識庫。為了協助簡化及加速物聯網和嵌入式開發流程,Cortex-M52 也可通過 Arm 虛擬硬體(Arm Virtual Hardware)的形式被取用;Arm 虛擬硬體是基於雲端的開發方法,能在取得晶片之前即進行軟體開發。
以 Arm 架構部署人工智慧,打造全方位的人工智慧物聯網應用場景
人工智慧物聯網運行在 Arm 架構之上。Arm 及其合作夥伴了解市場期待以更低的成本與更好的市場切入點,將數位訊號處理與機器學習運算效能,導入低功耗的嵌入式應用的需求。Cortex-M52 因應而生,可於最小裝置提供更高的人工智慧推論效能,協助產業更進一步擴展物聯網裝置的部署規模。