研究機構IDC預估，全球企業的邊緣運算支出將從2022年的1,760億美元成長至2025年的2,740億美元，屆時，成長率最高的邊緣應用包含大眾基礎設施維護、網路維護、醫療診斷與AR輔助手術。當科技越來越智慧，智慧型載具與聯網裝置網網相連，「雲端資料中心」需要邊緣運算(Edge Computing)的因地制宜，才能更有效地降低運算負載量，快速、低延遲地傳輸資訊。

如果將雲端資料中心/雲端運算與邊緣運算比喻為大腦與神經系統，邊緣運算的神經弧涵蓋範圍更廣，小至各類智慧型載具與終端設備的應用，大至物聯網(IoT)、工業物聯網(IIoT)與車聯網(V2X)的運作整合，都少不了邊緣運算穿針引線。在IoE（萬物互聯）時代，更需要最小延遲性、高可用性網路即時處理大量數據，邊緣運算的重要性不言可喻。

圖1 : 雲端面臨5大挑戰。

雲端面臨5大挑戰：

挑戰1.延遲問題

越來越多產業需要應用程式具備快速分析與回應的能力，雲端運算過程中資料來源之間的網路距離容易導致低效率、延遲及客戶體驗不佳。

挑戰2.頻寬問題

網路的邊緣裝置數量越多，資料傳送至雲端的成本可能越來越高，邊緣處理、儲存與分析資料有助降低成本。

挑戰3.隱私及安全問題

減少網路傳輸的資料量有助降低資安風險，尤其是醫療、智財(IP)等資安要求高的資訊處理，雲端傳送不若邊緣運算安全。

挑戰4.連線問題

持續性的網路連線能力是雲端運算的痛點，加上未來5G可能帶來的高頻寬、低延遲助益，更能強化邊緣運算的快速傳輸能量，這部分雲端相對弱勢。

挑戰5.AI串聯問題

AI可以加速資料處理速度、提高智能運用，隨著AI與邊緣運算的發展，雲端的功能性相對弱勢。

邊緣運算四大核心：運算、儲存、建構網路與加速AI

傳統的雲端運算要求將資料傳輸回中央的資料中心進行處理，再傳輸回使用者端的終端設備，但資料中心無法保證傳輸速率和回應時間，另一方面，動輒

數十億物聯網及行動裝置所蒐集到的資料相當可觀，將資料傳送至分散式模型，就近在資料位置處理運算事宜更有效率。

邊緣運算(Edge Computing)為網路運算架構，在運算過程中因為靠近資料來源，可以減少延遲和頻寬的使用，極大限度地減少異地用戶端和伺服器之間的通信量。

雲端運算中的資訊與數據會集中蒐集、處理及分析，而邊緣運算則是將運算能力廣佈於運算環境中，二者包含在廣義的「雲解決方案」中。由於邊緣運算中的數據與資料可以在收集源附近處理，讓特定場域中的大小元件分工執行資料處理，不需要將數據傳輸到雲或數據中心進行分析處理，有助減輕網路及服務器的負擔，處理數據的能力及反應時間更快，因此特別適合即時性高的工業物聯網及車聯網的應用，若加入人工智能(AI)和機器學習(ML)等元素，還能產生更多創新應用，進一步提升元件的智慧化效能。

研調機構Gartner報告指出，2021年邊緣運算裝置具有深度機器學習能力的比例不到10%，2027年將提升到65%。

近裝置的邊緣運算設備具有四大核心：運算、儲存、建構網路與加速AI，將儲存、處理與分析資料的功能從雲端移至邊緣，對於車聯網這類極需即時應用的領域來說，可以帶來更快、可靠性更高、更優質的體驗，也有助於減少傳輸與儲存大量資料所需耗費的頻寬與成本，畢竟幾毫秒的延遲對各類即時系統及智慧車輛來說，可能就是生與死之間的距離，對於智慧工廠中的機器人來說，可能是成本與產值多一個零或少一個零的差距，尤其在網路連線能力不佳的地區，雲端連線中斷問題多，邊緣儲存與處理資料的優勢更為明顯。

Edge AI助攻 邊緣運算應用場域更多元

ITIS報告指出，未來科技朝智慧化發展，智慧裝置的運算和感測功能結合，透過邊緣運算，可以強化裝置間的溝通能力。邊緣運算可以廣泛應用於大規模的資料傳輸應用(如智慧製造、智慧城市)、即時性協作(如智慧電網、智慧金融、智慧農業)、體驗優化(如智慧零售、人臉辨識)及安全應用(如智慧交通、智慧醫療、自駕車、無人機)。

以車聯網來說，需要仰賴系統可靠性和運算即時性， 才能滿足車輛配備的精密機械與尖端電子軟硬體等複雜系統，以及串聯雲端、AI、感測器與無線通訊技術，而車輛在行駛過程中蒐集到的各種數據資料除了有助車輛運作，還能衍生多種新興商業模式。

隨著邊緣運算、AI和物聯網快速發展，出現多種智慧網路連接技術，如Edge AI、Edge AIoT(人工智能聯網)等。已經有許多企業透過邊緣運算與AI結合提高效率，降低成本，如邊緣AI和邊緣運算裝置可以提高自動化操作的精準度，減少人為疏失，有助建立更安全的工作場域。

市調機構MarketsandMarkets即指出，邊緣AI能提升監控效率，大幅減少延遲及雲端頻寬需求，可運用於機器深度學習的攝影機系統讀取原始數據，透過人臉辨識分析、識別人員及偵測可疑活動，各種多元的資料處理能力已逐漸轉移到邊緣端。AI邊緣運算技術逐漸應用於交通運輸、自動駕駛、醫療照護、農業、製造業、金融業、零售業等場域。

由於智慧邊緣運算裝置內建處理器，可提供內建分析或AI進階功能，內部部署的邊緣伺服器便能處理從邊緣運算裝置傳來的資料，再回傳接近即時應用程式所需關鍵資訊，或者將資料傳送至雲端。多個邊緣運算裝置的資料也能傳回雲端整合，執行更廣泛的處理及分析。

邊緣運算結合AI的智慧解決方案

邊緣運算可以透過AI使終端設備更加智慧，一方面保有邊緣運算低延遲、高隱私、快速連接、低功耗、低成本等優勢，再方面可以強化系統的智慧功能及自動化優勢。邊緣AI與傳統邊緣運算相較，優勢包含數據處理、過濾和邊緣智慧分析，未來，邊緣AI與邊緣運送持續結合，可以有更多運用，比方邊緣AI與影像分析技術已逐漸應用於智慧零售、醫療等領域。Fortune Business Insights指出，全球影像分析市場至2027年複合年均成長率達21.3%。

科技龍頭Microsoft認為，2026年全球AI晶片約75%將為邊緣運算所用，IoT晶片於邊緣運算的發展可能成為未來業者的重點布局之一，如Google、AWS等雲端大廠致力於晶片自製；ARM鎖定邊緣AI針對攝影機的辨識應用；Intel投資十餘家新創AI晶片設計廠；恩智浦(NXP Semiconductors)、芯科科技(Silicon Labs)、意法半導體(ST)則是在MCU或SoC上增加邊緣AI功能。投入AI晶片的業者也不少，如以色列AI晶片公司Halio、新創公司EdgeQ及Graphcore，以及中國的華為海思、台灣的聯發科與耐能。

此外，隨著智慧工廠、智慧城市、智慧醫療等場景出現越來越多AI與IoT結合的應用，AI晶片的價值水漲船高。在AI晶片助益下，IoT邊緣與終端裝置可透過機器學習或深度學習等技術加值，同時帶出無延遲、低成本、高隱私等優勢，預估全球AI晶片產值至2025年約達720億美元。研調機構Omdia則預測，全球邊緣AI晶片產值將從2019年的77億美元成長至2025年的519億美元，未來產值上看新台幣1.5兆元。

工研院電光系統所所長張世杰認為，AI應用越來越廣泛，能在邊緣裝置端快速運算、即時反應的「AI晶片邊緣運算（Edge Computing）」成為智慧裝置(如手機、穿戴式裝置)能否普及的關鍵，省電的AI運算晶片變得非常重要，記憶體內運算技術也已成為全球AI晶片技術的兵家必爭之地，國際大廠競相尋求具有高度存取效能、低功耗的記憶體技術。以工研院研發的超省電記憶體內運算（Computing in Memory；CIM）AI晶片來說，具有超低耗電效能與即時辨識關鍵語音功能，可應用於智慧生活(如智慧門鎖、藍牙耳機、白色家電等)中。

智慧工廠也會是導入大量邊緣AI應用的場域之一。Edge AI強調不需要連線到伺服器，直接在邊緣裝置應用AI模型即可，可應用在工廠產線的瑕疵檢測 (如物件偵測、影像分割、零件瑕疵檢測)、自動光學檢查(AOI)設備檢測瑕疵產品複判；Edge AI瑕疵檢測裝置與自走車結合便形成可移動式檢測工作站；工廠或智慧倉儲導入AI和邊緣運算技術，可以結合機械手臂或倉儲機器人，即時遠端處理各項問題，分析監視器影像或AIoT訊號，減少人力檢查成本與人為錯誤率。若是行車紀錄器與AI結合，可以應用於行人偵測與預警系統，不需將資料回傳雲端等待結果，在邊緣端即可進行資料處理、預測，即時性更高。

各家業者看好AI邊緣運算的發展，積極推出解決方案，如戴爾(Dell)推出一系列邊緣運算解決方案以確保邊緣運算設備可以支援各類應用場域，如溫溼度/空間、可支援、連結的設備距離、設備與數據安全防護機制、遠端監控管理等。Dell PowerEdge XR4000是針對Nano-Edge推出的新產品，適合智慧零售、製造、5G電信、交通、醫療（車）、8K轉播車等應用，35cm短深度適用於各種惡劣、不可預測的邊緣環境，企業可以遠端監控設備營運狀況，或透過戴爾的邊緣運算營運軟體平台Project Frontier統籌管理。

圖2 : Dell PowerEdge XR4000是針對Nano-Edge推出的新產品。(source：Dell)

恩智浦(NXP Semiconductors)為滿足新世代工業物聯網與邊緣運算需求，推出

內建客製化神經處理單元(NPU)全新32位Arm Cortex-M33核心的MCX微處理器家族系列，將AI導入低功耗嵌入設備及邊緣設備中。恩智浦MCX微處理器中的旗艦款微處理器在使用NPU執行機器學習運算時，速度能提高30倍，有效提高運作效能，並廣泛採用MCUXpresso軟體和SDK工具套件，有助強化AI從雲端導入消費和工業物聯網設備的效能。

研揚科技發表採用全新NVIDIA Jetson AGX Orin的AI邊緣運算解決方案—BOXER-8641AI，採用8核Arm v8.2 64位CPU和NVIDIA Ampere架構，擁有1792個CUDA和56個Tensor核心，最高可達200個TOPS，AI性能是前代產品的6倍，可以直接在邊緣端進行資料分析，而且搭配最新M.2 E/B/M-Key進行5G、無線Wi-Fi/藍牙、NVMe等擴充，已通過微軟Azure認證。研揚科技系統平台產品處資深協理薛紹周表示，BOXER-8641AI是針對次世代機器人應用所設計的AI邊緣運算產品，強化了下一代深度學習及視覺處理能力。

圖3 : 研揚科技首次發表採用全新NVIDIA Jetson AGX Orin的AI邊緣運算解決方案。(source：研揚科技)

技宸則善用Intel新一代處理器Elkhart Lake CPU為運算核心，打造QBiP與QBiX無風扇解決方案，具備低功耗、高效能特色，在相同瓦數下提供高於競品1.5-2倍的效能，可強化製造系統邊緣設備的運算能力及優化系統運作效率。除了製造業，也適用於不同場域的智慧化架構，如QBiP與QBiX系列可透過高運算效能，讓零售業者店內的數位看板具備播放高解析度影音檔案的能力，創造絕佳使用體驗，寬溫設計可讓設置於戶外嚴苛環境下依然穩定運作。

圖4 : 技宸QBiX無風扇解決方案。(source：技宸)

2023年中美晶片戰還有續集？

至於中國，佈局AI晶片物聯網領域的廠商眾多，主要針對雲端運算、行動通訊、物聯網與自動駕駛等領域。聚焦於邊緣運算領域的業者以地平線、華為海思、寒武紀、比特大陸、鯤雲科技等最為活躍。TrendForce預估，中國AI晶片市場有望從2019年的13億美元增長至2023年的上看35億美元。

不過，2022年10月美國拜登總統祭出晶片禁令，全面打擊中國AI、超級電腦和晶圓加工領域，同時擴大商業管制清單項目，納入先進晶圓加工製程設備、超級電腦相關晶片和設備等選項。有消息指出，美國的科技封鎖戰有可能繼續朝AI軟體、量子運算邁進，相較於看得見的俄烏戰爭，這場沒有煙硝的科技戰爭對於中國及全球AI晶片產業帶來的衝擊如何有待觀察。