AI是2017年IT產業的焦點議題，多數研究機構與產業都認為AI不但會與嵌入式系統整合，而且在部分應用中，具有AI功能的嵌入式設備將串聯成物聯網架構成為AIoT系統，而AIoT系統中，不僅上層的雲端平台會具有運算能力，終端的嵌入式設備，甚是設備中的元件，也都會有一定程度的AI設計，進而形成龐大商機，也因此目前各大晶片商都早已開始投入AI晶片的布局。

/news/2018/05/21/1512490770S.jpg

AI晶片在嵌入式系統的應用相當廣，從數據中心、終端設備(智慧手機、平板電腦、穿戴式裝置…等)、垂直特定產業(製造、交通、醫療…等)，都將是目標市場，投入的廠商也眾多，以架構來看，浮點運算、同步並行運算非常適用於人工智慧的深度學習神經網絡，因此具有這些特點的GPU，也成為這波AI熱潮的重要運算架構，在此趨勢中CPU也未缺席，尤其是Intel在2017年中分別推出獨立AI 加速器Movidius Neural Compute Stick與Myriad X視覺處理器(Vision Processing Unit；VPU)，前者內建了Myriad 2視覺運算單元，可在1瓦電力下可完成每秒1000億次浮點運算，後者則是全球第1個配備神經運算引擎(Neural Compute Engine)的系統單晶片，可用於加速產品端的深度學習推理，除了兩家處理器大廠，Google也在2017年推出客製化的ASIC AI晶片TPU，專為機器學習設計，Google的TPU主要用於改善搜尋結果的相關性與提高Google街景服務地圖和導航功能正確度，由於TPU是專為特定用途設計的特殊規格邏輯 IC，只執行單一工作，所以速度更快，但缺點是成本較高。

除了GPU、CPU外，其他處理架構如FPGA、DSP等廠商，也都積極投入AI市場，而就發展來看，仍未看出那一類運算架構會成為市場主流，伺服器的應用目前仍以CPU為主，不過現在NVIDIA也開始跨入發展，至於終端嵌入式設備市場，無論是體積、功耗、價格，其市場需求都比伺服器更嚴苛，因此難度會更高，不同的應用會需要不同運算架構，因此未來處理器在嵌入式終端市場的應用將更為多元，不會出現一家寡占的狀況。