AI是2017年IT产业的焦点议题，多数研究机构与产业都认为AI不但会与嵌入式系统整合，而且在部分应用中，具有AI功能的嵌入式设备将串联成物联网架构成为AIoT系统，而AIoT系统中，不仅上层的云端平台会具有运算能力，终端的嵌入式设备，甚是设备中的元件，也都会有一定程度的AI设计，进而形成庞大商机，也因此目前各大晶片商都早已开始投入AI晶片的布局。

/news/2018/05/21/1512490770S.jpg

AI晶片在嵌入式系统的应用相当广，从数据中心、终端设备(智慧手机、平板电脑、穿戴式装置…等)、垂直特定产业(制造、交通、医疗…等)，都将是目标市场，投入的厂商也众多，以架构来看，浮点运算、同步并行运算非常适用於人工智慧的深度学习神经网络，因此具有这些特点的GPU，也成为这波AI热潮的重要运算架构，在此趋势中CPU也未缺席，尤其是Intel在2017年中分别推出独立AI 加速器Movidius Neural Compute Stick与Myriad X视觉处理器(Vision Processing Unit；VPU)，前者内建了Myriad 2视觉运算单元，可在1瓦电力下可完成每秒1000亿次浮点运算，後者则是全球第1个配备神经运算引擎(Neural Compute Engine)的系统单晶片，可用於加速产品端的深度学习推理，除了两家处理器大厂，Google也在2017年推出客制化的ASIC AI晶片TPU，专为机器学习设计，Google的TPU主要用於改善搜寻结果的相关性与提高Google街景服务地图和导航功能正确度，由於TPU是专为特定用途设计的特殊规格逻辑 IC，只执行单一工作，所以速度更快，但缺点是成本较高。

除了GPU、CPU外，其他处理架构如FPGA、DSP等厂商，也都积极投入AI市场，而就发展来看，仍未看出那一类运算架构会成为市场主流，伺服器的应用目前仍以CPU为主，不过现在NVIDIA也开始跨入发展，至於终端嵌入式设备市场，无论是体积、功耗、价格，其市场需求都比伺服器更严苛，因此难度会更高，不同的应用会需要不同运算架构，因此未来处理器在嵌入式终端市场的应用将更为多元，不会出现一家寡占的状况。