我們正進入生成式AI時代。生成式AI將利用神經網路驅動全新體驗和使用案例,這是一次重大的進展,但僅依靠雲端是無法高效實現的。透過打造全新類別的強大且高效率AI PC,裝置上AI將改變PC產業,驅動使用者的終端裝置將成為真正的智慧助理,以更直覺、更無縫的方式融入使用者的生活。在未來PC產業中蓬勃發展的企業,將是那些期待進入由AI實現整合、個人化體驗世界的企業。
目前關於生成式AI的熱門討論聚焦在利用雲端以運作、訓練、推理模型。但並非所有工作都需要去雲端。由生成式AI驅動的體驗正以前所未有的速度普及,產生大量的運算處理需求。因此,採用兼具雲端和裝置上最具優勢的解決方案至關重要。這就是「混合式AI」,亦即將工作負載分佈在雲端和邊緣裝置之間並進行協作,進而提供更強大、更高效率且高度最佳化的體驗。
廣泛且持續在裝置上運行AI的應用程式,正在了解使用者,以預測和回應使用者的需求,其提供的即時性和可靠性,不會因容量限制而導致延遲。這個過程是利用裝置上可用的情境和內容,實現個人化互動、提醒和回應。同時,由於查詢(query)無需離開終端裝置,因此有助於保護個人資訊並增強隱私。
有了裝置上AI,使用者可以方便地與AI助理進行自然流暢的對話。使用者不需要透過開始按鈕從一個應用程式跳到另一個應用程式,而是直接利用AI助理更有效率地與裝置進行互動。例如,如果使用者想要預訂機票,可直接向AI助理詢問相關資訊即可。更重要的是,如果AI助理觀察到使用者預訂了機票,它甚至可在使用者詢問之前就提供飯店資訊。
在裝置上高效運行AI模型需要異質運算。除了CPU和GPU以外,現在在裝置上AI和衡量PC效能的第三個關鍵處理核心是NPU。裝置上AI引擎從CPU和GPU分流部分任務,以提升效能和電池效率;這可滿足在極具可攜性設計的裝置上,以極低功耗隨時隨地持續運行高負載AI應用的處理需求。
這個機會的規模空前巨大。事實上,根據調查94%的企業領導者表示,AI對未來五年的成功至關重要。IT決策者認為,AI是影響購買決策的最大因素。最新研究指出,近一半的IT決策者有意願基於AI效能更換PC品牌。
PC正處於令人興奮的世代改變風口。我們已經深刻地意識到在軟硬體中整合AI的重要性,這將開啟機會、開拓創新。使用者與AI PC互動的新時代已悄然而至。
(本文作者Akash Palkhiwala為美國高通公司(Qualcomm)財務長)