Arm 宣布多項全新的策略合作，致力於帶動人工智慧（AI）的創新，並實現 AI 體驗。除了能實現 AI 開發作業的技術平台，Arm 也正與超微半導體（AMD）、英特爾、Meta、微軟、輝達（NVIDIA）與高通（Qualcomm Technologies, Inc.）等市場領先的科技公司合作，透過各項計畫，聚焦於促成先進的 AI 能力，以帶來更高的回應性、且更安全的使用者體驗。這些合作將在各個運算進行之處，為超過 1,500 萬名 Arm 開發人員打造其所需的基礎框架、技術與規格，帶來次世代的 AI 體驗。

Arm 資深副總裁暨架構長與院士 Richard Grisenthwaite 表示：「AI 的廣泛應用仰賴於硬體與軟體創新的持續協同。這種組合將在每一個技術接觸點上提升 AI 能力，從在邊緣運行工作負載的最小型感測器，到處理複雜工作負載以訓練大型語言模型的超大型伺服器。」他指出：「隨著生態系不斷地發掘 AI 的真正潛力，安全性、永續與資料上限顯然地都將成為挑戰。因此，持續探尋整個產業中的合作機會極為重要，如此才能大規模實現 AI 的部署，包括加大邊緣的推論能力。」

助力邊緣 AI 發展

生成式 AI 與大型語言模型（LLM）或許是時下關注的焦點，而有鑑於在智慧手機領域，高達七成的第三方 AI 應用是在 Arm CPU 上運行，Arm 已引領邊緣實現 AI 長達多年。在探索如何以永續的方式實現 AI 與更高的效率來傳送資料時，產業也需要同步演進，以便能在邊緣運行 AI 與機器學習（ML）模型。然而，開發人員在此所能運用的運算資源越來越有限，要達到此目的也充滿挑戰。

Arm正與 NVIDIA 合作，進行 NVIDIA TAO 的調適，這是一套可運用在 Ethos-U NPU 上的低程式碼且開源的工具套件，它可協助打造效能優化的視覺 AI 模型，以便將其部署在基於 Ethos-U 的處理器上。NVIDIA TAO 提供一個易於使用的介面，可在 TensorFlow 與 PyTorch 這兩個免費且開源的?先 AI 與 ML 框架上進行開發作業。為開發人員帶來輕鬆且無縫的模型開發與部署環境，同時還可以在邊緣裝置運行更複雜的 AI 工作負載，提升 AI 體驗。

在所有裝置與市場推進神經網路的應用

在邊緣推進神經網路的部署是實現 AI 持續成長的重要一環。Arm 與 Meta 正努力運用 ExecuTorch，把 PyTorch 導入 Arm 架構的行動與嵌入式平台。ExecuTorch 能讓開發人員更輕鬆地在各種行動與邊緣裝置上，部署先進 AI 與 ML 工作負載所需的最尖端類神經網路。Arm 與 Meta 的合作將確保未來透過 PyTorch 與 ExecuTorch，開發人員能更輕鬆開發與部署 AI 與 ML 模型。

與 Meta 的合作是以 Arm 已投注龐大資源的張量算子集架構（TOSA）為基礎；TOSA 為 AI 與 ML 加速器提供一個共同的框架，並支援深度神經網路運用的各式工作負載。對於多元的處理器與數十億個以 Arm 架構打造的裝置，TOSA 將是 AI 與 ML 的基石。

在產業內推動規模化的 AI

要以相對較低的成本實現 AI 的規模化，支援資料格式的廣泛部署相當關鍵。Arm 向來致力於支援各種新興小型資料庫類型的 AI 工作負載。

Arm、英特爾與 NVIDIA 去年在合作計劃中發表了全新的 8 位元浮點規格：FP8。從那之後，此一格式備受關注，而參與的企業也擴大到 AMD、Arm、Google、英特爾、Meta 與 NVIDIA，並共同創建了正式的 OCP 8位元浮點規格（OFP8）。Arm 在其最新的 A 系列架構更新中，新增了符合此一標準的 OFP8，為產業內的類神經網路的快速採用提供支援。OFP8 是一種交換的 8 位元資料格式，可以讓軟體生態系輕鬆分享類神經網路模型，並在數十億個裝置上持續推進 AI 運算能力。

開放標準對於驅動 AI 生態系的創新、一致性與可交互操作性極為關鍵。為持續支援業界開放標準的協作努力，Arm 近期加入 MX 聯盟，該聯盟成員包括 AMD、Arm、英特爾、Meta、微軟、NVIDIA 與高通。MX 聯盟近來針對微擴充這一全新技術的規格展開合作。這項技術是建立在晶片設計領域中長達多年的探索與研究，是 AI 應用針對窄位元（8 位元與未滿 8 位元）訓練與推論的一種精密的擴充方式。此一規格將這些窄位元資料規格標準化，為產業去除碎片化，並促成 AI 的規模化。

秉持產業合作的精神，MX 聯盟透過開放運算專案，以開放、免授權的形式發布了這個 MX 的技術規格。這項專案結合了超大規模資料中心營運商與運算基礎設施產業的其它相關業者，目的是促使更廣泛的業界採用。這也體現了業界對於該需求的共識—讓生態系中的所有人都能平等地獲取可擴充的 AI 解決方案。

前所未見的 AI 創新

目前 Arm 已為全球的 AI 發展奠立紮實的基礎，而上述的合作只是 Arm 為提供開發人員打造先進、複雜 AI 工作負載所需技術的方式之一。從感測器、智慧手機到軟體定義汽車、再到伺服器與超級電腦，AI 的未來將建構於 Arm 的技術之上。