隨著物聯網的蓬勃發展，預期到了2035年，全球將會有超過1兆台連網裝置，這些裝置並將大量運用於醫療、汽車、燈具及道路等領域。而連網裝置數量的大幅成長，也將順勢帶領終端及雲端運算的持續發展，將驅動IoT和AI，並帶來全新的運算世代。

在不久的未來，終端和雲端都將由巨量的資料蒐集與分析所組成。這些資料蒐集成本幾乎為零，影響著所有的產業。智慧運算將持續推動物聯網時代，帶領人工智慧變革，促使物聯網智慧運算無所不在。

AI能帶來前所未有的改變和益處，例如AI醫療影像，讓診斷阿茲海默症得以比使用傳統方法提早十年，這等於讓專家有多10年的機會去研究和早期預防該疾病。不過，人工智慧在為人類生活帶來精彩機遇的同時，也伴隨著隱憂。根據Arm於 2017年的一份調查指出，有85%的受訪者認?人工智慧會造成個資外泄或濫用，57%的人則相信在未來人工智慧將會取代人類，而AIG在2017年也調查發現，75%的人擔心無人車會遭駭客侵入。至於另一份研究則證實，60%的受訪者擔心人工智慧會被作為犯罪用途，AI能比人類更迅速的在社交網站上執行網路的釣魚攻擊。

Arm：行動裝置必須擁有機器學習的能力！

也因此，如何定義社會與人工智慧之間的關係，減少社會大?對人工智慧技術與應用的疑慮，變得至關重要。Arm IP產品事業群總裁Rene Haas提出，我們應從「微小時刻」來改變人們的認知，進而賦予AI人性。舉例來說，根據世界衛生組織的數據發現，每年有高達25萬人死於氣喘或相關疾病，Arm也因此開發了Respiro智慧模組，小巧的吸入器裝置具備機器學習技術，可以緊密連結病患和醫生，醫生能夠透過病患回傳的數據提供適當的治療方法，讓病患不再飽受氣喘之苦。

圖1 : Arm IP 產品事業群總裁Rene Haas暢談AI的人性化發展

藉由AI來驅動更多的這些「微小時刻」，從家庭溫控、無人機偵測、耳機即時翻譯到自駕車等，機器學習將導入更多終端裝置，與雲端運算相比，終端運算在頻寬、耗電量、可靠性、安全性及隱私性等方面，都能帶來更有效率的運算模式。終端可驅動AI的各種微小時刻，包括：

‧ 家庭溫控能夠持續有效調節、控制溫度

‧ 無人機自動偵測周遭

‧ AI陪伴老人保持活力和參與感

‧ 耳機即時翻譯

‧ 改進駕駛行為的裝置或自駕車，能降低90%的車禍死亡率

‧ 攝影機及時偵測並提醒火車駕駛小心預防在鐵軌道上的動物

智慧手機是世界上最普及的AI終端裝置，現今有超過95%由AI驅動的裝置都是應用在手機、智慧家庭以及IoT領域，當中超過90%已出貨的AI裝置則是基於Arm的架構，這提供了廣大的軟硬體平台以及強大的生態系統，催化終端AI的拓展。90%的AI應用在手機上運行，包含語音辨識、數位助理、擴增實境、指紋辨識、臉部追蹤、預測字等。

運算處理能力AI演算法的進展已經驅動應用、訓練與推論到終端裝置上，這些作業無法完全仰賴雲端，除了因雲端功能有限外，使用者亦希望其裝置上資料能夠有隱私以及安全。終端裝置上的智慧具有反應快、可靠、安全的特性，同時資料不用離開裝置就能受到保護。至於為何要將機器學習與AI的能力移植到終端上，這牽涉到以下原因：

1.頻寬：雲端上來回傳輸資料往往造成延遲，對具時效性作業處理是一大問題，且所費不貲

2.耗電量：傳輸資料的電量可觀，建造更多的資料中心或伺服器並無法治本

3.可靠性：手機失去訊號或是網路斷線都會是問題

4.安全：使用者更注重安全性

5.隱私：越來越多使用者對於其資料要求隱私以及可控制性。雖然越多個人資訊分享對AI的發展更有利，但使用者仍然希望他們的資料更多是存在本地，以保有安全和隱私

Arm整合產業生態系統的AI及機器學習應用、演算法及框架，與針對Arm硬體優化的軟體函式庫，加上Arm專為AI打造的硬體IP產品，提供平台解決方案，讓各式裝置及平台都能支援最常使用的機器學習框架。這些解決方案包含：

Arm Cortex-A76及Mali-G76：機器學習效能已經成為手機上重要功能，而A76、 G76能夠提供這些的功能。Arm持續為其CPU和GPU產品進行優化，以提升在各個不同裝置種類上ML應用的效能，其中手機將會是一大重點。

Project Trillium：這包含了機器學習和物件偵測處理器，專為在終端裝置上提供高效能、高效率的機器學習功能重新打造，提供Arm合作夥伴更多的選擇。相較於獨立CPU、GPU與加速器，不僅大幅提升效率，其效能並遠遠超越傳統DSP的可編程邏輯。

以人臉辨識為例，物件偵測處理器偵測到所需要的圖像部分，作預先篩選，並以每秒超過1TOPS的效率處理full HD的影像，分割出圖中物件或人像；機器學習處理器檢視這些部分，專注於更快速辨識與分析人物。使用者只會看見高解析度、即時的人臉分析。這種方法提供了快速的處理能力，同時維持裝置在終端運作的效率。這將實現如智慧相機市場等新的應用和服務，預期在未來十年成長達到超過10億台裝置數量。

NVIDIA：GPU實現AI運算的關鍵時刻

事實上，在AI當道的今日，GPU加速運算也已經來到關鍵點，世界正在加入這個快速運算的行列。不止相關開發者在五年內成長了10倍，全球前50大超級電腦中的GPU FLOPS（浮點運算）也在五年內成長15倍，比摩爾定律更快，這意味著GPU運算時代已經來臨。

在未來十年，每年的運算需求將成長100倍。NVIDIA執行長黃仁勳指出，超級電腦是現代科學的重要工具。在過去10年來，該公司開發了一整套用於超級運算的函式庫、系統管理和編程工具。針對分子建模、量子化學和力學、天氣預報、氣候研究、能源探索、物理模擬、資料科學以及人工智慧等，超過550種高效能運算應用了CUDA加速。未來，每台超級電腦也都必須在務實的成本與能耗的考量基礎上，加速實現百萬億次級和百億級性能。

而GPU運算正是AI發展的加速引擎。根據一家AI研究機構OpenAI最近公佈的一份研究報告顯示，培訓AI模型的運算將在五年內成長30萬倍。這比摩爾定律還要快上3萬倍。透過增加數據和GPU效能，機器可以編寫非常複雜的軟體，不需要人工編寫，並可解決近期無法解決的問題。

圖2 : NVIDIA執行長黃仁勳指出，GPU運算已經來到關鍵點，世界正在加入這個快速運算的行列。

這個世界比起以往，更需要大型的GPU運算效能。研究人員和開發者需要巨大的GPU來開發更強大的模型，目前GPU已經處於製造的極限。黃仁勳說，我們發明了一種突破性開關，可以將多個GPU連接並編程為單個GPU。NVSwitch是一種新型高頻寬交換器，其協議可擴展跨16個Volta Tensor核心GPU的單晶片內建記憶體。程式設計師可看到具有2 PFLOPS性能的單一512GB GPU。

未來的運算將融合模擬和機器學習方法。電腦可以透過學習數據中的重要特徵，模擬物理定律或預測結果。例如NVIDIA所創造的Tensor Core GPU，就是融合了HPC與AI運算的新架構。Tensor Core GPU具有多種精度，支持高運算量FP64、FP32、FP16、Int8和單週期4x4矩陣乘法累加來進行深度學習。

在今年，資料中心消耗約2000萬個CPU，若以每個處理器0.5TF來算，將共會有1000萬TF。隨著摩爾定律減緩，10年內成長百倍的1000萬TF，將會以替代方式運作。而NVIDIA的CUDA GPU運算是延展摩爾定律最主要的方法。到2028年，全球的需求將達到相當於1000萬NVIDIA Volta的GPU數量。Volta是第一款Tensor Core GPU，並採用125張Tensor TFLOPS來增強AI，比起以往的GPU快上10倍。

全球大廠都正全面擁抱AI以強化社會、增加生產力及全球競爭力，台灣也不例外。製造方面，富士康正在使用AI大幅超越人類的檢測效率；醫療方面，中國醫藥大學附設醫院已使用AI協助醫師做出更快、更精準的癌症腫瘤轉移預測。台灣大學則用AI來更快速區別鼻咽癌危急器官；公共安全方面，台灣人工智慧實驗室用AI來協助台南市政府監測橋樑結構，預防颱風損害；交通方面，桃園市政府預計在2020年前，讓30％行駛固定路線的公車，配備L3自動駕駛功能。

台灣是PC及雲端運算的中心，而現在台灣正要進行AI運算革命。全球最重要的伺服器製造商在每個城市都採納了GPU加速伺服器。包括廣達、雲達、富士康、英業達、緯創、緯穎、華碩、技嘉、華擎、泰安、宏碁等，在過去十年，這些廠商的伺服器出貨量總和達1億台，佔全球伺服器90％。而全球最大的IT公司也採用NVIDIA平台，包括IBM、DELL、HPE及Supermicro等，他們都預見了這波由GPU運算所帶起的AI商機。

黃仁勳強調，龐大的系統、基礎架構，以及軟體生態系統正圍繞著NVIDIA的平台而建立。未來NVIDIA將持續強化GPU運算能力，而這些龐大的終端市場商機，都將與NVIDIA的軟體平台共同合作運作。

Intel：將人工智慧融入到各種新型裝置

英特爾過去深耕PC，而現在隨著一系列廣泛新技術的問世，將可望協助人們以及全球產業體系實踐未來。其中一項就是將PC從單純的電腦，轉化成為驅動每個人得以創造無限可能與偉大貢獻的平台。

目前多數人已將PC視為日常生活的重心，超過八成的人使用PC完成各種事務。除此之外，工作的場所、方式、以及動機也不斷改變，人們彼此連繫的方式也有所改變，而科技就是推動這些變化的關鍵。在此情況下，徹底改善PC使用經驗將能因應現今面臨的各種需求，並協助人們專注在最重要的事務上。然而，欲搖身一變躍升為打造個人無限可能的平台，則需要針對效能、連網性、電池續航力、可調適性、以及智慧性等五個關鍵層面去推動PC創新。

　英特爾致力提供最佳效能，發表最新行動平台專用第8代Intel Core處理器系列，包括內部代號為Whiskey Lake U系列以及Amber Lake Y系列，除了具有雙位數的效能提升，還內建gigabit Wi-Fi功能。此外，英特爾也十分關注5G的領先優勢及重要性，已有許多合作夥伴出貨內含英特爾處理器的5G連網電腦。而行動裝置上最耗電的非螢幕莫屬，英特爾達成提供全天電池續航力的途徑，就是進行全新Intel低功耗顯示技術研發，這項技術已被夏普以及群創所生產的1瓦功耗面板所採用，讓液晶螢幕耗電降到一半。至於人們希望PC能依我們的生活形態及所在位置而調整，這也促成像是雙螢幕等各種新型規格，以及針對特定使用情境所設計的平台。

智慧性將是現代PC經驗中一個不可或缺的環結。英特爾計畫將人工智慧導入個人電腦，為開發者社群提供各種工具與資源，並與OEM廠商合作，將各種人工智慧功能融入到新型裝置。英特爾推動AI on PC開發者計畫，為開發者提供各種工具與培訓資源，包括OpenVINO toolkit以及Windows ML，讓他們充分發揮硬體功能，釋放在人工智慧創新的潛力。目前英特爾已經展示名為Project Precog的新概念PC，一款主打兼具多功能性與生產力、並具備智慧型功能的可變形雙螢幕筆記型電腦。另還有客戶打造出針對各項最新應用所研發之人工智慧新機種。

圖3 : 英特爾資深副總裁Gregory Bryant宣布透過提供開發者社群各種工具與資源，將AI注入個人電腦。

AMD：全新製程提供更高運算效能

為了提供更高效能的CPU與GPU，AMD也不遺餘力，陸續推出7奈米製程Radeon Vega GPU產品，以及12奈米製程32核心的AMD第2代Ryzen Threadripper處理器。此外，也針對Ryzen桌上型處理器持續擴展並精進AM4桌上型產業體系，發表AMD B450晶片組的主機板。第2代Ryzen桌上型處理器進行優化的B450晶片組，設計旨在提供兼顧功能、效能以及價值的完美平衡，包括華擎、華碩、映泰、技嘉、微星等合作夥伴廠商都將推出搭載B450晶片組的產品。

AMD發表的32核心64執行緒的第2代Ryzen Threadripper處理器，為AMD 12奈米製程產品陣容的第二款產品，在著色、後製以及編碼等工作負載展現更高的性能。全球各地OEM廠商夥伴都已經開始採用Ryzen APU、第2代Ryzen桌上型處理器以及Radeon繪圖核心來推出新產品。

AMD更計畫讓這些CPU與GPU產品陣容在未來幾個月持續精進得更家強悍。除了7奈米與12奈米製程產品基於Ryzen、Radeon以及EPYC處理器的動能持續推進之外，AMD也將由旗艦裝置與遊戲至機器學習與資料中心等市場，帶領新一代高效能運算效能應用更為蓬勃。

圖4 : AMD全球資深副總裁暨運算與繪圖事業群總經理Jim Anderson展示12奈米製程的第2代Ryzen Threadripper處理器。

結語

不論是智慧型手機、IoT裝置或是車子，這些人類和終端裝置上的AI應用，在各種微小時刻都建立了觀念，並逐漸形成社會規範。人工智慧帶來如此大的影響，不僅是因?社會對科技抱持著信心，更是因?科技在人類日常生活中扮演了重要的角色。身處在科技產業，每一個人都必須努力去協助AI的發展，並小心檢視、考量各種可能的影響，最重要的是，不讓AI對社會或人類造成傷害。

AI的應用與裝置數量都正在持續成長中，新型裝置和新興應用也會有更創新的方式去運用這項技術。這些互動方式都改善了人類的能力，影響人類生活並為AI建立正面的社會共識。