隨著機器學習（ML）技術的快速進步，適合機器學習的新應用層出不窮。恩智浦（NXP）不斷發展機器學習軟體解決方案，以滿足持續擴張的市場需求。在本文中，我們將瞭解恩智浦在eIQ機器學習軟體環境中取得的一些最新技術進步。

發佈一年，如今的恩智浦eIQ機器學習軟體中增加了哪些新資源？

所有的機器學習應用，無論是用於雲、移動設備、汽車還是嵌入式系統，都有某些共同之處，即開發人員必須收集和標記訓練資料，訓練和優化神經網路模型，並在處理平台上部署該模型。恩智浦的處理平台並非只側重於雲或移動設備，而是也非常重視為嵌入式應用（工業和物聯網）和汽車應用（自動駕駛、感測器融合、駕駛監控和ADAS）實現機器學習。

物聯網和工業導向的機器學習軟體

2019年6月，恩智浦發佈了eIQ機器學習軟體發展環境，主要目的是在MCU和應用處理器方面上更好地部署開源推理引擎。目前這些引擎包括TensorFlow Lite、Arm NN、ONNX Runtime和OpenCV，如圖1所示，它們以不同方式涵蓋了所有計算引擎。

圖一 : eIQ機器學習軟體發展環境

在任何可能的情況下，我們都將優化整合到推理引擎中（例如TensorFlow Lite的性能調節後端），目的是讓MCU和應用處理器運行更快速。為方便客戶部署，在Yocto BSP和 MCUXpresso軟體發展套件（SDK）中包括了這些引擎，以及所有必需的數據庫和內核（例如CMSIS-NN、Arm Compute Library）。

恩智浦為這些開源推理引擎提供的一項重要支援服務是版本升級維護，無論這些升級是同步的（例如，Arm每季度發佈Arm NN和Arm Compute Library）還是非同步的（Google不定期發佈TensorFlow Lite版本），都涵蓋在內。在快速發展的機器學習領域，這些升級和功能增強非常重要，它們提供更優良的性能，為更多神經網路操作員提供支援，允許他們使用更新的模型，另外還支援其他新功能。

eIQ Auto：汽車應用的深度學習工具

近來，隨著機器學習技術在恩智浦公司內部的發展，eIQ機器學習軟體已經成為一個概括性術語，代表了機器學習的多個方面。我們的汽車部門近期推出了eIQ Auto工具包，提供符合Automotive SPICE標準的深度學習工具，適用於恩智浦的S32V處理器系列和ADAS開發，從而讓eIQ軟體得到進一步增強。將這種技術應用於S32V處理器，可以提供高級別的功能安全性，支援ISO 26262，最高滿足ASIL-C、IEC 61508和DO 178標準。

eIQ Auto工具的推理引擎包括一個後端，可自動選擇給定神經網路模型的工作負載的最佳分區，涵蓋器件中的所有不同計算引擎。eIQ Auto工具還整合了量化、刪除、壓縮功能，可對任何給定神經網路進行處理。

圖二 : eIQ機器學習軟體的績效基準

未來，恩智浦將推出eIQ機器學習軟體的更新版本和全新版本，包含新增功能，為機器學習應用創造更多的價值。新的eIQ機器學習軟體功能將包括模型優化（性能提高和容量減小）和增強功能，讓機器學習軟體更易於使用，相關細節有待進一步披露。

對於恩智浦而言，機器學習的未來在於更快捷、更簡單地使用功能更多的軟體，所有這些優勢都有利於機器學習在業界得到廣泛採用。

作者簡介

Markus Levy在2017年加入恩智浦半導體，擔任人工智慧和機器學習技術主管。該職位主要專注於恩智浦微控制器和i.MX應用處理器產品系列的人工智慧和機器學習功能的技術戰略、產品roadmap和行銷策略。