Arm宣佈透過將 Arm Kleidi 技術整合到 PyTorch 和 ExecuTorch,促使新一代的應用在 Arm CPU 上運行大語言模型(LLM)。Kleidi 彙集了最新的開發人員賦能技術和關鍵資源,目標在於推動機器學習(ML)技術堆疊中的技術協作和創新。透過這些重要進展,Arm 致力於為每一位 ML 技術堆疊的開發人員提供更為順暢的體驗。
在雲端,Kleidi 以利用 Arm Compute Library(ACL)強化 PyTorch 帶來的成果為基礎,為世界各地在 Arm 平台上優化 AI 的開發人員打造藍圖。透過為開發人員免去其不必要的工程工作,使開發人員能將 Arm 視為運行其關鍵 ML 工作負載的首選平台。做為實現此一願景的關鍵一步,Arm 直接與 PyTorch 和 TensorFlow 進行 Arm Kleidi Libraries(函式庫)的整合合作,這包括將基本的 Arm函式庫整合到上述的領先框架中。重要的是,這代表著當新的框架版本發佈時,應用開發人員能夠自動地從其大幅的效能提升中獲益,而無需額外在 Arm 平台上進行建構。這