AI應用日漸普遍地被部署到邊緣和終端，且高效能AI推論使更智慧的城市和高度自動化的智慧工廠得以實現。隨著智慧零售帶來精緻的自動化購物服務，消費者的零售購物體驗也變得更加細膩。這些應用需具備極高的可靠性並提供高效能，同時也需提供精巧的外形尺寸。

邊緣處理難題

在邊緣部署系統時，功耗、佔板面積和成本都是重要的考量因素。在邊緣處理的種種限制條件下，當處理需求不斷增加，也就意味著提供所需的效能水準將面臨更大的挑戰。雖然CPU在邊緣運算上已有所發展，但近年來的成長速度趨緩，尤其在嚴格的低延遲要求下，在為由新一代AI所支援的邊緣應用提供效能時，未經加速的CPU表現得相當勉強。
...
...