對整個智慧物聯(AIoT)架構來說,邊緣運算(Edge Computing)可能是最重要的一個技術。它不僅可以提升終端裝置的效能,提升使用者的體驗,最重要的,還能降低雲端系統的負擔,進而增加了整體的系統效能,對於企業的營運與成本有著至關重要的影響。
而在2021年,這個技術的重要性仍會持續的增加,一方面是經過了前兩年的醞釀與佈局,更多的用戶與系統商已體認到導入邊緣運算的益處;另一方面,則是更多的邊緣運算元件與解決方案已到位,降低了導入邊緣運算相關系統的建置時程與成本。
儘管COVID-19對全球的經濟帶來嚴峻的挑戰,也壓抑了大型AIoT系統的建置需求。但隨著5G的加速到來,讓行動運算有了更佳的發展態勢。尤其是疫情所引發的遠端作業與自動化的意識,已成為了業界普遍的共識。
5G興起 多接取邊緣運算架構正受重視
而在5G時代,一種被稱為多接取邊緣運算架構(Multi-access Edge Computing,MEC),正受到廣泛的重視,尤其是在工業領域。它主要的目標就是進一步強化邊緣運算平台的即時性,減少延遲的時間,同時簡化部署的成本,是目前最受重視的邊緣運算技術。
MEC的部署十分具有彈性,它可被建置在無線網路節點(Radio Node)、匯流聚合節點(Aggregation Point)、或是核心網路端(Core Network)。以目前台灣最常見的基地台建置為例,終端用戶使用行動裝置來存取網路上的服務時,基地台即可就由在基地台上的MEC運算平台,先行判斷是否可由MEC提供服務。若只需要透過MEC,就可以更快速的服務使用者,減少需要經過骨幹網路和核心網路的時間後頻寬,從而降低整體網路系統的成本。
國際市場研究機構ResearchAndMarkets就在其報告中指出,邊緣運算導入行動運算的時機已經成熟了。該機構預測,行動邊緣計算在2027年將達到27億美元,特別是在COVID-19發生之後的複合年成長率,將達到30.8%。
而行動邊緣計算其實就是多接取邊緣運算的前身。顧名思義,就是以行動應用場景為主要思考點,讓雲端儲存和運算網路邊緣可以更加接近。歐洲電信標準協會(European Telecommunications Standards Institute,ETSI)是在2017年時,將行動邊緣運算技術(Mobile Edge Computing)更名為多接取邊緣運算技術,該計劃是將邊緣節點放置在行動和固定網絡上。
該分析機構並在報告中指出,MEC可為客戶更快,更靈活地部署各種服務和應用程序。這個技術結合了電信網路和IT技術,可幫助蜂窩式的電信運營商搭建開放式無線接入網(RAN),以授權第三方(例如內容提供商和應用程序開發商)。同時MEC也允許新興的應用程序進入雲端服務和資源的存取,進而實現新一代的智慧應用環境。
針對MEC的技術與應用,台灣的工研院也投入了許多的研發資源,並且極力的與產業界合作,要打造出更好的5G服務。
工研院就指出,運用MEC可大幅降低網路延遲,提升使用者體驗。目前已與電信業者合作開發出VR 360直播系統,提供高畫質全景直播。此外,也有高畫質無人機空拍串流技術,以及無人車等相關技術。
除此之外,在工業製造與醫療照護領域,同樣也有使用行動邊緣運算技術的需求,像是無人智慧工廠、遠端醫療等,都是需要高速、無延遲的網路服務的效能。
2021年邊緣運算五大趨勢
Arm應用工程總監徐達勇認為,在2021年,有五大值得關注的邊緣運算趨勢:
˙新冠疫情加速AI部署:根據Arm於2020年8月與麻省理工學院科技評論洞察(MIT Technology Review)合作、針對來自12個不同產業的301位C Level的科技專業人士進行的訪談報告顯示,超過62%的受訪者表示,他們正在投資並使用AI技術。來自大型企業組織(年營收超過 5 億美元)受訪者的部署率較高,接近80%。較小型的企業組織(營收低於 500 萬美元)的部署率則為 58%。1/3的受訪者表示,2020年新冠疫情的爆發加速了他們在AI策略上的部署。
˙企業組織正在提高對AI的投資:超過一半(57%)的受訪者看到他們的 AI 預算在過去三年內提升,且接近四分之一的人表示,他們在2016年到2019年間,年度 AI 支出最少增加一倍。其中,大型企業在AI支出的增加更多:73%來自年營收超過5億美元的企業組織受訪者的預算都有增加,有近三分之一的受訪者預算甚至提升超過100%。這些投資加碼反映AI對企業營運持續成長且普遍的影響。
˙超過半數企業將AI部署在終端裝置或邊緣運算:儘管對於已經使用AI的企業組織,雲端運算是他們最喜歡的基礎架構,不過在越來越需要極低延遲的數據存取,以及端點/邊緣處理能力的應用上,為了兼顧成本效益及運算效率,越來越多應用將往數據產生的來源靠近,邊緣運算或是將資源擺在更靠進存取它們的裝置的地方,相關的部署將急起直追。
˙對應軟硬體攻擊與保護個資/隱私的需求:可以想見,任何普遍的科技與技術對社會的影響都有利弊兩面。AI對幾乎所有商業與社會活動層面的衝擊持續擴大,讓企業領袖必須正視AI能否在負責任的規範下使用。消費者一方面對於交易與運作流程中藉助AI的接受度越來越高,但也期待企業能在公平的、高道德標準,並能顧及永續發展的條件下使用這項技術,特別在個資的搜集。因此在邊緣運算上,也衍生出對應軟硬體攻擊以及保護隱私等運算能力的強烈需求。
˙雲原生體驗無痛且無縫的轉移至邊緣:雲原生資料中心服務導向的架構,正與構成嵌入式終端與端點裝置的各式各樣的硬體產生碰撞。Arm正與生態系夥伴合作,確保那些不同且持續演進的工作負載,能在各個裝置與作業系統上,簡單地轉移、維護與部署,同時還能無縫地連接到所有的雲端服務。例如Arm推出的Project Cassini,這是個開放、建立標準架構的提案,目的是在安全的Arm終端生態系上,為開發者達成統一且簡化的 AI 體驗。
圖二 : Arm的產品策略是對邊緣運算CPU大幅增加AI/ML的運算能力 |
|
當然我們也值得看看Arm針對邊緣運算將會有哪些產品策略:這將分別討論包括CPU、NPU與PSA等層面。
CPU
從彈性與效能來分析 CPU、GPU 與 NPU,可發現彈性最佳的是CPU(像一把瑞士刀,在各種應用場合都可用),而效能最好的是 NPU(像一把電鋸,能在特定的場景中發揮事半功倍的效果)。因此 Arm 在追求極致效能(Performance)、最佳功耗效率(Power)及最小面積(Area)的平衡的同時,也將 AI 運算能力與彈性納入 CPU 的設計,以確保其得以適用在不同的邊緣運算的應用場景。
專用的ML加速器可以達到更好的效能,但同時也增加矽晶的面積。所以這是通用與專用兩者的組合,透過異質運算創造更好的效能。因此,Arm的產品策略是對邊緣運算CPU大幅增加AI/ML的運算能力,也會在2021年新發表的CPU產品上,持續掌握這個技術趨勢。
NPU
Ethos-N系列是Arm專為行動AI、ML 推論的運算需求而推出的類神經網路處理器,而Arm也於2020年初發表Cortex-M55 CPU以及採用全球首顆微型NPU架構的 Ethos-U55 NPU,此組合與上一世代應用Cortex-M CPU相比,機器學習效能提升了480 倍。
Arm近期更推出Ethos-U65 NPU,在維持Ethos-U55的功耗效率下,將應用延伸至Arm Cortex-A與Arm Neoverse架構系統,為需求更高的應用推升效能至1 TOPs,賦予各種裝置新能力。
PSA與PARSEC
除了PSA,Arm也定義出開源(open source)的PARSEC(Platform AbstRaction for SECurity)微服務,提供標準化的API介面連接硬體安全機制。