在通膨壓力與經濟低迷的影響下，全球有超過半數的企業正面臨嚴重的人力與技術缺口。在此同時，企業也面臨營運成本增加的壓力，IDC預測，AI的自動化發展將成為企業解決壓力的重要投資。企業自動化應用目前仍面臨AI應用擴展及協同串接的難題，並且在目前單模態的AI應用，已不足以滿足企業在即時決策、預測能力的需求。

放眼未來，能夠同步處理文本、視覺影像、音訊等應用的多模態AI，將有機會幫助企業解決面對的難題，提供更精準的自動化性能，跨越企業內部各種業務流程的決策串流障礙。多模態AI的自動化應用，已逐漸在智慧能源與晶片開發設計上嶄露頭角。IDC預測到 2023 年，持續的人才不足與技術缺口將促使 35%的企業開始投資AI技能，並且預期在2026年將有40%的AI模型能涵蓋多模態的數據演算，這也成為未來企業展現營運韌性不可或缺的必備條件。

人工智慧無所不在

然而，現階段人工智慧發展所面臨到的兩大挑戰，包括了大量人為介入導致的偏差與效率問題，以及類神經網路演算法所帶來的信任問題。根據IDC研究指出，目前的人工智慧技術只能算是弱AI，意味著只能應用在單一領域中。而這也讓下一代人工智慧技術的發展，將朝向Omnipresent AI（無所不在人工智慧）發展，讓人工智慧可以真正做到演算法融合、流程的自動化、以及虛實整合。在這樣的發展基礎下，人工智慧將可望更有效率地應用在多種不同的虛實融合場域，也讓AI的應用能更多元普及。人工智慧朝向強AI發展，也將使企業對於人工智慧的需求大幅提升。

IDC預估到2024年，50%的結構化可重複性的事務，將可實現全面自動化。並且在未來10年內，達到人類僅需在旁監督，不用直接下指令，機器便能自行進行動作，並決定事務執行方式的產業運作目標。

圖一 : 現階段人工智慧發展面臨到的挑戰，包括大量人為介入導致的偏差與效率問題，以及類神經網絡演算法的信任問題。

行動神經運算三大要素

除了企業端的導入，為了達到無所不在的人工智慧，為行動裝置導入AI能力與神經運算已經勢在必行，讓人工智慧也能隨身帶著走。Arm資深業務開發經理暨首席應用工程師沈綸銘指出，對於行動裝置來說，神經運算最需要的要素有以下三點：

●機器學習推論（Machine learning influence） 的執行效率：在終端裝置提供有效率的神經網路執行效能，是使用者導入的第一個關鍵。

●功耗效率：省電絕對是行動裝置持續的追求。在得到類神經運算之下，第二個要素就是降低功耗的需求，加速行動裝置類神經運算導入市場。

●軟體框架的支援：目前人工智能的訓練框架各不相同，導致終端裝置要執行類神經運算無法直接使用，需要額外人力成本進行模型轉換，同時也會造成模型經度損失。所以行動裝置執行類神經運算時，必須在專案規畫的初期，就選擇公開相容於各種訓練框架的軟體方案。

圖二 : 企業開始運用集體智慧的力量來提高生產效率。

Arm架構神經運算特色

Arm架構是目前多數行動裝置所採用的運算核心。沈綸銘說，行動裝置上導入AI與ML伴隨了許多的挑戰，而Arm架構也針對這些問題，進行了以下的解決與優化。

●持續在CPU、GPU增加AI 運算的能力：目前大多數的機器學習都是在Arm CPU和GPU上進行處理，因此Arm持續發布新的效率與功耗改進項目，甚至可以在最小的終端裝置與感測器上，運行機器學習模型。Arm機器學習解決方案結合硬體IP、軟體與人工智慧開發框架，可協助指導設計人員為雲端、邊緣與端點建構次世代創新、可攜式的人工智慧應用項目。

●持續優化軟體效能整合度：Arm的機器學習SDK包含所有的Arm IP（CPU、繪圖處理器與 NPU），提供更好的機器學習效能。開放原始碼的SDK支援常見的框架與模型格式（例如Tflite、TFLiteμ、Android NNAPI、PyTorch與ONNX），因此可以快速整合及打造流暢的開發人員體驗。軟體可支援各種Arm處理器工作負載，只要開發一次就能部署到各個地方。

●協助演算法以及終端使用者合作開發新的AI應用：Arm AI是多功能及可擴充的人工智慧開發環境，結合各種IP 、工具、軟體及支援，可幫助生態系夥伴創新，開發新的AI應用。

沈綸銘說，Arm持續致力於提供於省電的運算架構。神經運算底層的行為，其實就是大量的矩陣運算跟資料的搬動，不論是Arm設計的CPU、GPU、NPU，都會在設計的初期就考慮終端應用場景對功耗的要求。也因為這樣的特色，使得許多合作夥伴也選擇採用整套的Arm Total Solutions for IoT。例如奇景光電的客製化影像處理晶片解決方案就是採用了Arm Corstone-300，且無縫的執行於Arm虛擬硬體目標（AVH）之上，使其SoC更相容於Arm生態系的軟硬體支援架構。而AVH即將擴展到協力廠商裝置平臺，將使開發流程更加順暢。這些都將能為開發人員大幅縮短開發流程與時間、可專注於特定使用場景，提升客戶的使用經驗。

另外還有開放的軟體框架支援。坊間神經運算架構方案多半採用封閉的軟體框架，導致可以導入的使用場景十分有限，無法滿足行動裝置所需的語音、影像，甚至是混合型（sensor fusion）的各面向應用場景。因此Arm在規劃神經運算軟體架構時，便意識到這個問題，在規劃CPU、GPU、NPU軟體架構時，便十分重視開源的軟體生態。

結語

隨著AI技術應用發展、終端智慧裝置的增加，與企業數位轉型的浪潮推動下，IDC觀察到有越來越多的企業開始運用集體智慧的力量，蒐集並啟用集群式的事物或機器，以提高生產效率、融合內部協作，達到知識管理與決策制定等目的。IDC認為這些多樣態的智慧終端，將經由中心化、去中心化、與異質化群體學習等方法，讓學習，預測，與行動更加快速有效。預期製造業、零售業、醫療產業將在未來最有機會導入群體智慧發展，逐步邁向全自動化，並創造更多產業發展機會。