雖然人工智慧還是有一些缺點，但在今天仍舊對作業品質和生產力帶來重大的影響性。無論是醫療保健、國防，還是電子商務，都可以透過人工智慧系統實現大規模的自動化。

另一方面，在物聯網設備市場規模呈現指數級成長背景下，各種的大量數據被產生出來，進而推動了邊緣運算技術的發展。邊緣運算是雲端整體運算系統的重要組成部分，可以將部分的特殊處理和數據儲存，從雲端系統轉移到邊緣網絡節點，而這些節點在物理基礎上，可以合理地就近將數據提供給終端使用者。

這種「終端式」的人工智慧系統，不需要連接到雲端執行本地的任務和操作。相反，這些單位都擁有獨立處理資料，和做出決定的能力。因此，邊緣運算是將人工智慧的力量帶到單一的設備上，透過內建的微處理器和感測器來獲得和處理數據。

邊緣計算＋人工智慧＝邊緣人工智慧

伴隨著邊緣運算、人工智慧和物聯網的快速發展，使得各種多個智慧網路間連接技術不斷地被開發出來，這也被稱為Edge AI、Edge AIoT（Artificial Intelligence of Things），或智慧物聯網（圖一）。目前，已經有許多企業計畫採用邊緣運算與人工智慧相結合的方式來提高效率，進而降低生產/服務的整體成本。例如，只要使用設備之間的感測器，或即時視訊傳輸來獲取資料，並提供即時監視能力來預見各種問題，防止因為錯誤導致代價高昂的損失，或工作場所的傷害。

根據業界推估，目前生產過程中，因為設備的突發性停機所造成的損失，每年約為500億美元。這也將造成生產能力的降低、出貨延誤、客戶抱怨，以及收入減少。而這時，Edge AI就可以發揮出關鍵作用。

圖一 : 傳統的AI應用與Edge AI的比較（資料來源:i Magazine、CTIMES整理）

典型的Edge AI導入趨勢

在未來，雖然Edge AI的應用，雖然可以幫助企業減輕網絡和其他IT基礎設施的負荷，並幫助降低營運成本，但仍需依賴硬體和軟體的不斷改進來獲得更先進的系統。

例如，透過工廠生產線上設備，或連接互聯網的攝影系統，可以將即時影像發送給遠端的辦公室。從單一設備或端點進行數據的傳輸，以今天的網路技術來說是相當容易的。但是，面對同時傳輸資料的設備數量增加時，瓶頸挑戰就出現了，因為當成千上萬組的攝影終端同時進行傳輸時，不僅影像品質會因為延遲而受到影響，而且維護該傳輸頻寬的成本也會非常高。

不過，現在已經能透過Edge AI克服上述挑戰，可以利用設備本身來分析所獲得的資料，而不是將資料發送到雲端或中央位置，處理完畢之後再分析的結果儲存在雲端系統後，來產生完整的生產線監控能力，因此利用終端的力量就可使企業更有效地利用剩餘網路資源。此外，在Edge AI的幫助下，工廠設備更可以在現場執行大部分的分析工作，可以大大減少需要通過網絡傳輸的數據，從而降低因為雲端運算所產生的成本、提高分析速度，這就是利用Edge AI的主要優勢（圖二）。

圖二 : 在生產線上進行視訊分析系統的簡單說明（資料來源:ACSICORP）

傳統上，視覺運算是人工智慧的一個分支，被歸納為基於雲端的IT流程。然而，今天處理系統的能力有顯著提高之後，推動了視覺運算模式的改變。特別是影像分類和物體識別等神經網路的使用。對於視覺分析結構來說，系統需要兩個主要能力：即時執行和快速矩陣計算，目前主流的手法是採用特定應用的數學演算法模型。

而這個數學演算法模型有兩種類型的深度學習演算法，分別為：

●一級檢測（基於回歸的物體檢測器），在這種情況下，僅需一次的檢測就能完成。

●兩級檢測（基於分類的物體檢測器），檢測則需要以兩階段的方式進行。

邊緣人工智慧朝向分散式架構轉變

基於上述演算法的計算能力，智慧設備和高風險應用（從擴增/虛擬實境（AR/VR）到無人機應用和自動駕駛）等的新發展，已經使基於雲端的人工智慧變得不足。這些即時應用無法承受延遲，必須在高可靠性下運行，即使在網路連接中斷的情況下，還是可以持續運作。因此這些新的應用引發了研發人員對分散式、低延遲和可靠的人工智慧的巨大興趣，推動了數據的處理，從基於雲端和集中式學習和分析，朝向邊緣人工智慧的重大轉變。例如：

●學習資料不均勻地分佈在邊緣設備的網路上，如網路基地台（BSs）和/或行動設備，包括電話、相機、車輛和無人機等。

●每個邊緣設備都能獲得極小部分的資料，讓學習和分析可以集體進行的。

●每個邊緣設備可以相互通訊，並交換學習的模型（例如神經網路），而不是私有數據。

當第一個節點識別出產線上的產品缺陷時，它會將帶有標記ID的影像發送到第二個節點，讓該節點有提供額外的處理能力。然後，第二個節點的缺陷檢測模組被觸發後，就會等待並持有GPU資源來進一步處理。如果在處理過程中沒有發現缺陷，缺陷檢測模組會發送一個觸發資訊，中止缺陷跟蹤程式，並釋放第二節點的GPU資源。在第二個節點的過程中，在缺陷檢測其間，在雲端伺服器中標記了許可權，可以幫助識別對該節點ID的授權使用者。此時，雲端只會向檢測到缺陷的各個節點的認證使用者發送消息（圖三）。

圖三 : 使用多個第一邊緣節點、與第二邊緣節點和雲端的檢測流程概念（資料來源:ACSICORP）

使用Edge AI的一些顯著優勢是：

●可以在所連接的設備上進行本地執行推理，大幅減少了因為資料發送到雲端進行預測，所造成的延遲和成本。

●與其將所有資料都發送到雲端執行人工智慧分析，不如直接在設備上進行分析，只有在需要特殊處理時才將資料發送到雲端。

●以極低的延遲獲得分析結果，對於確保一些關鍵性物聯網路能夠快速回應，是一件至關重要的事情。

●與基於雲端的人工智慧不同，Edge AI具有隱私保護，訓練數據不會記錄在雲端，而是保存在每個設備中，透過獲得和整合其他設備運算數據的更新，來學習全局共享模型。

●對大量使用者所產生的數據樣本進行學習，這將有助於實現高精確度，甚至可能包括隱私敏感資訊，如醫療記錄、工廠/網路運行狀態和定位紀錄。

Edge AI的應用優勢性

現在我們已經看到了Edge AI解決方案，與傳統或基於雲的計算系統相比的好處，以下是Edge AI一些常見的現實世界的應用。

音訊分析系統

識別音訊輸入和處理其中的數據資料，是當今許多設備的兩個關鍵要求。音訊分析可用於各種目的，例如識別和訪問管理（IAM），或手機、高級車中的語音控制。深度學習和Edge AI被應用於降噪設備，以協助系統進行各種聲音觸發，或失效。人工智慧影響音訊分析的另一個例子是，安裝在汽車上的事故預防系統，可以透過視覺運算的影像以及聲音（甚至在嚴重的干擾和背景雜音中）來檢測接近的車輛，並採取預防措施來保護車內的人員。

此外，人聲分析也是音訊分析的一個重要部分。可以透過人工神經網路和自然語言處理（NLP）工具，在語言和關鍵字識別方面學習基於邊緣運算的AI模型，這一功能對於設備執行語音命令要求是很有用的。除此之外，Edge AI也可以實現文字到語音的轉換等應用，反之亦然。當然，Edge AI的音訊分析也常被用於人工智慧驅動的聊天機器人。

車用數據處理

Edge AI技術的另一個應用是車用設備的數據收集。由於隨著網聯汽車的普及，數據利用也呈現多樣化和複雜化，例如，對於行車記錄器影像數據的需求將增加、發送到雲端中心的通訊成本、雲端中心的儲存成本等。目前可以透過Edge AI技術來作為解決方案。首先，利用在車內的Edge AI將所拍攝的影像中的物體，並且發送到雲端。

例如，將招牌和汽車數量等識別結果，先轉換成文字畫數據，發送到雲端中心。接下來，再依據雲端中心的識別結果下，車用設備僅發送真正需要的影像數據(b)，可以大幅度降低與數據收集相關的成本，並且可以執行有效的數據收集（圖四）。

圖四 : Edge AI在車輛上的高效數據收集應用（資料來源:DENSO TEN）

智慧能源系統

互聯風力發電站等應用可以透過Edge AI進行概念化和無縫運轉。一般來說，如果只使用雲端運算系統，運行此類系統的成本將高得驚人。相比之下，利用雲端-邊緣組合系統進行運算操作、數據獲取、管理和處理的成本也可以獲得較佳的控制。

風力發電站需要基於終端的解決方案，因為在風力渦輪機附近工作的員工，會利用多個監控攝影鏡頭、存取感測器、生物識別安全感測器等，來讓風力發電站順利地運轉。而這些設備和感測器就必須確保能夠有效地運轉，並以閃電般的速度來處理相關數據。因此，Edge AI解決方案對於降低風能發電系統的成本，以及減少整體處理時間，和使用的頻寬量是很有用的。

視覺娛樂系統

Edge AI也被廣泛用於涉及AR、VR和MR的視覺娛樂系統。對於這些類型的系統，數據處理和人工智慧分析就必須在本地完成，達到節省時間和成本。眾所周知，AR系統需要使用者佩戴虛擬實境或3D的眼鏡，以充分享受其視覺上的沉浸式體驗。透過邊緣運算和人工智慧技術，進行邊緣服務器離線處理，來達到小眼鏡尺寸的目標。

微軟的Hololens就是利用Edge AI和運算技術，應用在AR相關娛樂產品。Hololens包括一個整合全息電腦（Holographic Computer）的可穿戴頭盔，讓使用者沉醉在AR的世界中。未來甚至將會被應用複雜的遊戲、數據分析，和醫療成像上。

智慧音箱和家庭助理

諸如亞馬遜的Alexa和Google Home這樣的智慧家庭助手，在當今依賴人工智慧的世界裡很流行。這類設備和系統也是利用Edge AI來提升速度和數據傳輸，使智慧家居的概念變得更實用化。

結語

人工智慧對於任何一種數位操作來說幾乎是完美的。Edge AI採用人工智慧的概念，並在幾種不同的方式下改進技術，來達到下一個進化階段，相信Edge AI的應用將會比現在更加普遍。