Arm宣布透过将 Arm Kleidi 技术整合到 PyTorch 和 ExecuTorch,促使新一代的应用在 Arm CPU 上运行大语言模型(LLM)。Kleidi 汇集了最新的开发人员赋能技术和关键资源,目标在於推动机器学习(ML)技术堆叠中的技术协作和创新。透过这些重要进展,Arm 致力於为每一位 ML 技术堆叠的开发人员提供更为顺畅的体验。
在云端,Kleidi 以利用 Arm Compute Library(ACL)强化 PyTorch 带来的成果为基础,为世界各地在 Arm 平台上优化 AI 的开发人员打造蓝图。透过为开发人员免去其不必要的工程工作,使开发人员能将 Arm 视为运行其关键 ML 工作负载的首选平台。做为实现此一愿景的关键一步,Arm 直接与 PyTorch 和 TensorFlow 进行 Arm Kleidi Libraries(函式库)的整合合作,这包括将基本的 Arm函式库整合到上述的领先框架中。重要的是,这代表着当新的框架版本发布时,应用开发人员能够自动地从其大幅的效能提升中获益,而无需额外在 Arm 平台上进行建构。这