早在1956年，Allen Newell、Cliff Shaw和Herbert Simon合力製作了一個名為「邏輯理論家（The Logic Theorist）」的電腦程式。該程式由RAND Corporation資助開發，旨在模仿人類解決問題的技能，許多人認為它是人工智慧（AI）的第一個範例。

時至今日，大語言模型（Large Language Model；LLM）已成為人工智慧的代言人。LLM是一種計算演算法，通過密集訓練來學習文本（TEXT）文檔中的統計關係，從而實現通用語言生成和其他自然語言處理任務，OpenAI的ChatGPT可能是最知名的示例。

儘管LLM非常有用，但它只是人工智慧其中一個小眾應用；相比之下，把自動化系統收集的大量資料提供予機器學習（Machine Learning；ML）演算法更加大有作為。ML是人工智慧的一種應用，允許電腦在沒有直接程式設計或指令的情況下進行學習，從而不斷提高機器的智慧。

全球互聯的物聯網能夠讓人們收集幾乎無限量資料，這些資料不僅可以提供給雲端的電腦，還可以用來促進ML演算法，從而為物聯網內數十億聯網設備提高智慧。這意味著，即使是最普通的物聯網設備也能不斷提升智慧，為未來的工業、商業、教育、醫療等領域帶來巨大潛力。

就拿最不起眼的冰箱來說吧，全世界有數十億台冰箱，佔全球總耗電量的12%。通過不斷向ML模型提供外部和內部溫度資料、櫃內存放食物的數量、櫃門打開的頻率，以及電網負荷較低時段等高級資料，智慧冰箱壓縮機控制器可以快速適應使用模式，以減省能源使用和碳排放，這是非常美好的願景。目前的挑戰在於如何將硬體和軟體結合起來以實現無縫運行。

圖一 : 通過不斷向ML模型提供各種資料，智慧冰箱壓縮機控制器可以快速適應使用模式，以減省能源使用和碳排放。

向邊緣發展

1999年，當Kevin Ashton提出「物聯網（the Internet of Things）」一詞時，他對網路的設想與今天的物聯網略有不同。Ashton預測數十億個廉價、小巧的感測器將其資料傳送到功能強大的集中式計算資源，並進行繁重的計算操作。Ashton的預測很有遠見，但也有失算之處：通過網路從許多設備發送連續資料是複雜、耗能且費用昂貴的事情。

如今，我們通過將物聯網的智慧分配到邊緣，最大限度地減少了網路流量。因為當代物聯網設備的資源雖然難與雲端電腦相比，但也已經能夠獨當一面，配備了專用應用處理器和充足的記憶體資源。這使得物聯網能夠支援廣泛分佈的計算資源，其中的單個設備均能夠進行重要的邊緣處理。

在最基本的層面上，邊緣處理可讓物聯網設備對資料進行本地篩選，以確定哪些資料是不值一提，哪些資料則顯示情況正在發生變化並應當轉發做進一步分析。ML使得邊緣設備不僅能檢查資料是否超過預設閾值，還能推斷出變化的含義，然後採取相應措施。

Nordic Semiconductor戰略與產品管理執行副總裁Kjetil Holstad表示：「我們將這項全新功能稱為邊緣人工智慧（Edge AI），它為物聯網產品帶來了一些關鍵優勢：可在本地即時處理輸入，因此無需使用頻寬通過無線鏈路發送原始資料，同時不會浪費時間等待雲端的回應。其次，本地處理相比空中發送資料耗電更少，因而物聯網設備可以運行更長時間或使用更小的電池。」

監測機器軸承的溫度感測器就是此類功能的示例。如果軸承溫度逐漸升高，該感測器可以使用ML模型來推斷這僅僅是機器在預熱，無需擔心；若軸承溫度快速上升，則可能顯示潤滑出現故障，並觸發感測器在發生損壞前關閉機器。

諮詢公司德勤在「預測性維護（Predictive Maintenance）」定位檔中表示：「資料是任何預測性維護引擎的動力。其質素和數量是分析根本原因和提前預測故障的限制因素。物聯網提供了大量精確資料，並與邊緣人工智慧一起為預測性維護領域帶來了巨大的經濟潛力。」

德勤公司指出，每年非計劃性機器停機給工業製造商造成的損失估計高達500 億美元；實施預測性維護，每年平均可節省材料成本5%至10%；設備正常執行時間可延長10%至20%；總體維護成本可降低5%至10%；維護規劃時間可縮短 20%至50%。

圖二 : 通過在設備中添加邊緣人工智慧，監測機器軸承的溫度感測器可以使用ML模型來推斷機器預熱的狀況。

工程技術挑戰

利用人工智慧和ML增強物聯網確實好處多多，但大規模實施這種技術卻充滿挑戰。當今許多先進的ML模型都需要大量的計算資源和功耗來執行推理（運行 ML模型並根據輸入的資料做出決策）。然而，當今大量的物聯網連接設備雖然能夠執行一些邊緣計算，但卻缺乏人工智慧和ML所需的資源。

Tiny Machine Learning或TinyML是一種解決方案。TinyML是ML的一個分支，它簡化了ML技術，使其適用於電池供電、基於微控制器的嵌入式設備。TinyML使得小型物聯網感測器能夠以即時回應速度執行ML任務。

TinyML使得當今的無線SoC能夠支援ML，而未來的新一代硬體將能夠運行更先進的ML程式。Nordic Semiconductor投入了數百萬美元經費進行研究，將這類硬體推向市場。

「我們設計了能夠以最佳化方式運行ML的低功耗SoC，不需要專用的ML加速器。關鍵在於將創新工程與最大資料處理能力和最小功耗相結合。」Holstad表示：

「隨著物聯網中人工智慧和ML不斷發展，對其提出的要求也會越來越高；這可能意味著未來超低功耗嵌入式設備將配備專用ML加速器內核。但現在，我們的高效SoC和SiP展示最佳化的力量，毋須加速器也可實現先進的ML。」

他以Nordic雙核nRF5340和新型第五代無線SoC產品nRF54H20為例，這些 SoC採用Edge Impulse的TinyML軟體。Holstad解釋道：「憑藉nRF53和nRF54系列，Nordic成功地打破了處理能力和功耗之間的折衷權衡。這意味著開發人員可以立即獲得在電池供電SoC上支援高級ML所需的高處理能力和低功耗特性。Nordic還提供開展ML專案所需的全部開發工具和軟體。」

ML大放異彩

儘管面臨嚴峻的工程技術挑戰，但開發人員已經開始將帶有ML的物聯網產品引入商業領域。挪威公司Sensorita就是一個示例，該公司推出的智慧廢物管理解決方案基於Nordic公司nRF9160 SiP蜂巢物聯網產品和挪威生命科學大學研究的雷達技術，用於評估大型垃圾箱的裝載水準和內容物。

Sensorita執行長Ulrikke Lien表示：「客戶移動廢物處理箱，或者棄置與分類標示不同的廢物，使得廢物處理公司無法知道垃圾箱有多滿、裡面裝了什麼或何時應該取走。這給物流和生產計畫帶來了問題，而且不必要的回收操作也增加了二氧化碳排放量。」

Sensorita已借助一款結合雷達和GPS的堅固感測器解決了這一問題。感測器每小時多次獲取垃圾箱內部的雷達圖像，然後將這些圖像發送到Sensorita雲平臺進行分析。通過利用在數百萬幅雷達圖像上訓練出來的ML演算法，感測器能夠估算出垃圾箱的滿載程度以及所裝載的主要垃圾類型。

nRF9160 SiP使用蜂巢網路定位資料和GNSS三角測量法記錄每個垃圾箱的精確位置，並通過其LTE-M/NB-IoT數據機將感測器資料傳輸到Sensorita雲平臺。

Sensorita還利用ML最佳化卡車在城市中清空垃圾箱的路線，結果節省燃料、減少工時，並且降低碳排放。

更高效的冰箱、預測性維護和垃圾箱最佳化固然重要，但都屬於小眾產品。當ML在網路中廣泛部署時，成果將無比巨大，例如對醫療保健的影響。像Nordic的nRF54H20這樣的無線SoC支援具有各種感測器（如心率、心率變異性、溫度、呼吸頻率、血氧、壓力、疲勞和其他生理跡象感測器）的穿戴式設備。這種穿戴式設備不僅適用於健身愛好者，還適用於老年人、成年人和兒童。

有了ML和蜂巢物聯網連接，穿戴式設備能夠同時持續監測多種生命體徵。如果某些或所有生命體徵出現變化跡象，穿戴式設備的ML模型就能判斷這種趨勢是微不足道的，還是嚴重的緊急醫療情況。例如血氧水準、心率、血壓和呼吸的突然變化顯示心臟問題迫在眉睫。如果情況嚴重，穿戴式設備還能夠通知急救人員，同時在其到達之前提供重要的資料。

這類設備可以減少醫院就診次數，同時最佳化對真正需要人士的護理，從而節省緊張的醫療預算，這將為全球節省數千億美元。

在依靠電池運行的低功耗嵌入式設備上執行ML的能力，將會改變物聯網，促使網路變得更加智慧、強大和靈活，還將帶來先前不可能實現的新型產品和應用。未來將會十分精彩，並且比人們想像的更快來臨，敬請大家拭目以待。