人工智慧（AI）已经开始改变我们生活的许多面向，创造了显著的社会进步。从自动驾驶汽车到AI辅助医疗诊断，都显示出我们正处于一个真正变革时代的开端。

然而，既然有了机会，挑战也随之而来。 AI推论是基于训练有素的机器学习演算法进行预测的过程，无论是部署在云端、边缘还是终端，都要求在严格的功率预算（power budget）下提供优异的处理效能。人们普遍认为，仅凭CPU难以满足这项要求，而是需要某种形式的运算加速才能更有效地处理AI推论的工作负载。

与此同时，AI演算法正快速发展，且比传统晶片的开发周期更迅速。如果使用ASIC等固定功能的晶片实现AI网路，则可能因先进AI模型的快速创新而很快就被淘汰。
...
...