NVIDIA Fleet Command是一種用於在邊緣部署、管理和擴展人工智慧(AI)應用程式的雲端服務,現已新增全球邊緣AI部署的無縫管理功能。
隨著邊緣AI部署規模的不同,企業組織可能擁有多達數千個獨立的邊緣端點,它們必須由IT團隊管理,且有時位於偏遠的位置,如石油鑽井平台、氣象儀、分散式零售店或工業設施。
NVIDIA Fleet Command為容器調度(container orchestration)提供一個簡單的託管平台,讓企業能透過單一的雲端控制台,輕鬆地在數千個分散環境中配置及部署AI應用程式和系統。
然而,部署僅是管理邊緣AI應用程式的第一步。最佳化這些應用程式是一個持續的過程,包括修補應用、部署新應用程式與重啟邊緣系統。Fleet Command提供先進的遠端管理、多執行個體GPU配置,以及來自業界合作單位的工具整合,讓這些工作流程在託管環境中無縫運作。
IT管理員現在可以使用具複雜安全功能的系統和應用程式。Fleet Command的遠端管理提供存取控制和閒置計時,消除傳統VPN連接帶來的漏洞。管理員能夠在舒適的辦公室中安全地監控遠端端點的活動情形並解決問題。
邊緣環境的變化很大,邊緣AI部署管理員必須很靈活,才能跟上快速的變化並確保最少的停機時間,這讓遠端管理成為每個邊緣AI部署的關鍵。敬請瀏覽最新遠端管理功能的完整演練,以及如何使用遠端管理來幫助管理員維護和最佳化最大規模的邊緣部署。
多執行個體GPU(或稱 MIG)將NVIDIA GPU分成多個獨立執行個體。MIG已可在Fleet Command上使用,讓管理員可以從Fleet Command使用者介面輕鬆地將應用程式分配給每個執行個體。只要在同一個GPU上執行多個AI應用程式,MIG就能讓企業組織調整其部署規模且充分利用其邊緣基礎設施。
更深入了解管理員如何在Fleet Command中使用MIG,以最佳化邊緣資源,進而輕鬆擴展新的作業負載。全新Fleet Command合作亦幫助企業打造從開發到邊緣部署的無縫工作流程。
Domino Data Lab提供企業級MLOps平台,讓資料科學家使用他們偏好的工具、語言和基礎設施,大規模進行協作開發、部署和監控AI模型。Domino平台與Fleet Command的整合提供資料科學和IT團隊單一的記錄系統與一致的工作流程,用於管理部署至邊緣端點的模型。
影像管理系統的領導供應商,也是NVIDIA Metropolis菁英合作夥伴的麥士通 (Milestone Systems)打造了應用程式編寫介面閘道AI Bridge,能讓AI應用程式輕鬆存取來自數十個攝影機的整合影像內容。Milestone AI Bridge已與Fleet Command整合,可輕鬆被部署至任何邊緣端點。
鐵雲科技(IronYun)是NVIDIA Metropolis菁英合作夥伴和NVIDIA合作夥伴網路(NPN)的頂尖成員,該公司的Vaidio AI平台將經多代更新的先進AI應用在全球的安全和營運應用程式。
Vaidio是一個開放平台,能與任何IP攝影機搭配使用,並與數十個引領市場的影片管理系統立即整合。Vaidio可以部署在本地端、雲端、邊緣和混合環境中,且可從一台攝影機擴展至數千台攝影機。Fleet Command使得在邊緣部署Vaidio AI變得更輕鬆,也簡化了大規模管理。
透過這些新功能和擴展協作,Fleet Command能確保維護、監控和最佳化邊緣部署的日常過程變得更直接且輕鬆。免費申請使用NVIDIA LaunchPad,在Fleet Command上試用上述功能。
LaunchPad為Fleet Command執行個體提供即時、快速存取,以便使用實作實驗室輕鬆部署和監控伺服器上的應用程式,引導用戶完成從基礎設施配置和最佳化,到在網路邊緣部署視覺AI等應用的完整部署過程。