NVIDIA Fleet Command是一种用於在边缘部署、管理和扩展人工智慧(AI)应用程式的云端服务,现已新增全球边缘AI部署的无缝管理功能。
随着边缘AI部署规模的不同,企业组织可能拥有多达数千个独立的边缘端点,它们必须由IT团队管理,且有时位於偏远的位置,如石油钻井平台、气象仪、分散式零售店或工业设施。
NVIDIA Fleet Command为容器调度(container orchestration)提供一个简单的托管平台,让企业能透过单一的云端控制台,轻松地在数千个分散环境中配置及部署AI应用程式和系统。
然而,部署仅是管理边缘AI应用程式的第一步。最隹化这些应用程式是一个持续的过程,包括修补应用、部署新应用程式与重启边缘系统。Fleet Command提供先进的远端管理、多执行个体GPU配置,以及来自业界合作单位的工具整合,让这些工作流程在托管环境中无缝运作。
IT管理员现在可以使用具复杂安全功能的系统和应用程式。Fleet Command的远端管理提供存取控制和闲置计时,消除传统VPN连接带来的漏洞。管理员能够在舒适的办公室中安全地监控远端端点的活动情形并解决问题。
边缘环境的变化很大,边缘AI部署管理员必须很灵活,才能跟上快速的变化并确保最少的停机时间,这让远端管理成为每个边缘AI部署的关键。敬请浏览最新远端管理功能的完整演练,以及如何使用远端管理来帮助管理员维护和最隹化最大规模的边缘部署。
多执行个体GPU(或称 MIG)将NVIDIA GPU分成多个独立执行个体。MIG已可在Fleet Command上使用,让管理员可以从Fleet Command使用者介面轻松地将应用程式分配给每个执行个体。只要在同一个GPU上执行多个AI应用程式,MIG就能让企业组织调整其部署规模且充分利用其边缘基础设施。
更深入了解管理员如何在Fleet Command中使用MIG,以最隹化边缘资源,进而轻松扩展新的作业负载。全新Fleet Command合作亦帮助企业打造从开发到边缘部署的无缝工作流程。
Domino Data Lab提供企业级MLOps平台,让资料科学家使用他们偏好的工具、语言和基础设施,大规模进行协作开发、部署和监控AI模型。Domino平台与Fleet Command的整合提供资料科学和IT团队单一的记录系统与一致的工作流程,用於管理部署至边缘端点的模型。
影像管理系统的领导供应商,也是NVIDIA Metropolis菁英合作夥伴的麦士通 (Milestone Systems)打造了应用程式编写介面闸道AI Bridge,能让AI应用程式轻松存取来自数十个摄影机的整合影像内容。Milestone AI Bridge已与Fleet Command整合,可轻松被部署至任何边缘端点。
铁云科技(IronYun)是NVIDIA Metropolis菁英合作夥伴和NVIDIA合作夥伴网路(NPN)的顶尖成员,该公司的Vaidio AI平台将经多代更新的先进AI应用在全球的安全和营运应用程式。
Vaidio是一个开放平台,能与任何IP摄影机搭配使用,并与数十个引领市场的影片管理系统立即整合。Vaidio可以部署在本地端、云端、边缘和混合环境中,且可从一台摄影机扩展至数千台摄影机。Fleet Command使得在边缘部署Vaidio AI变得更轻松,也简化了大规模管理。
透过这些新功能和扩展协作,Fleet Command能确保维护、监控和最隹化边缘部署的日常过程变得更直接且轻松。免费申请使用NVIDIA LaunchPad,在Fleet Command上试用上述功能。
LaunchPad为Fleet Command执行个体提供即时、快速存取,以便使用实作实验室轻松部署和监控伺服器上的应用程式,引导用户完成从基础设施配置和最隹化,到在网路边缘部署视觉AI等应用的完整部署过程。