根據今日發布的MLPerf基準測試結果，NVIDIA（輝達）與其合作夥伴持續提供最佳的整體人工智慧（AI）訓練成果，且在所有測試項目中提交最多結果，高達90%的參賽者來自NVIDIA的生態系。NVIDIA AI平台完成了MLPerf訓練2.0中八個完整的測試項目，突顯出其頂尖的多功能性。

參與測試的業者使用的各個平台在不同網路上訓練的最快時間

沒有其他的加速器能夠完成所有基準測試，這些測試代表業界廣泛採用的AI應用，包括語音辨識、自然語言處理、推薦系統、物件偵測、圖像分類等。而NVIDIA自2018年12月第一次向MLPerf這個業界標準的AI基準測試提交成果以來，始終都是完成所有測試的參賽者。

在連續四年提交的MLPerf基準測試中， 基於NVIDIA Ampere架構的NVIDIA A100 Tensor核心GPU持續締造優異的表現。

Selene以最快的速度完成了八項訓練測試中的其中四項。Selene是NVIDIA內部的AI超級電腦，基於模組化NVIDIA DGX SuperPOD建置而成，並由NVIDIA A100 GPU、NVIDIA的軟體堆疊和NVIDIA InfiniBand網路技術互連。NVIDIA A100 GPU也持續引領在單一晶片的領導地位，在八項測試中奪得六項冠軍。

總計有十六家合作夥伴提出了使用NVIDIA AI平台進行測試的結果，包括華碩（ASUS）、百度（Baidu）、中國科學院自動化研究所（CASIA；Institute of Automation, Chinese Academy of Sciences）、戴爾科技（Dell Technologies）、富士通（Fujitsu）、技嘉科技（GIGABYTE）、新華三（H3C）、慧與科技（Hewlett Packard Enterprise）、浪潮（Inspur）、聯想（Lenovo）、寧暢（Nettrix）與美超微（Supermicro）等。

我們的大多數OEM合作夥伴使用NVIDIA認證系統提交結果，這些伺服器經NVIDIA認證，可為企業部署提供出色的效能、可管理性、安全性和可擴展性。AI應用程式可能需要理解用戶的語音請求內容、對圖片進行分類、提出建議，並以語音訊息的方式做出回應。

這些工作需要透過多種AI模型按照順序運行，也稱之為工作流程，用戶需要快速靈活地設計、訓練、部署和最佳化這些模型。這也是多功能性（能夠在MLPerf及更多任務中運行每一種模型的能力）和頂尖效能對於將真實世界中的AI投入生產而言至關重要的原因。

對於客戶而言，他們的資料科學和工程團隊是最寶貴的資源，他們的生產力決定AI基礎設施的投資報酬率。客戶必須考量資料科學團隊衍生的高昂成本，這通常在部署AI的總成本中占很大一部分，同時也須考慮成本相對較低的AI基礎設施部署。

AI研究人員的生產力取決於快速測試新想法的能力，除了需要能夠訓練任何模型的多功能性，也需要大規模訓練這些模型所提供的速度。這就是組織以每一美元單位生產力來決定最佳AI平台的原因，讓他們得以用更綜觀全局的方式、更準確地體現部署AI的真實成本。

此外，AI基礎設施的運用仰賴於它的可替代性，或在單一平台上加速整個AI工作流程（從資料準備、訓練到推論）的能力。借助NVIDIA AI，客戶可以為整個AI流程使用相同的基礎架構、重新調整其用途，以滿足資料準備、訓練和推論之間的不同需求，從而帶來極高的投資報酬率。

而且，隨著研究人員發現新的AI突破，支援最新模型的創新是極大化AI基礎設施運用的關鍵。NVIDIA AI提供最高的每一美元單位生產力，因為它對每個模型都具有通用性和高效能，可擴展至任何規模，並可從端到端加速AI，無論是資料準備、訓練與推論皆然。

今日公布的最新測試結果證明，NVIDIA在迄今的每一次MLPerf訓練、推論及高效能運算測試項目中，均具備廣泛且深入的AI技術。自A100首次參與MLPerf測試以來的兩年中，我們的平台提升了6倍以上的效能，而持續進行軟體堆疊最佳化則有助於推動這些效益。

自MLPerf基準測試推出以來，NVIDIA AI平台3.5年內在此測試中提高了23倍的效能，這是橫跨GPU、軟體和大規模改善的全方位創新的成果。正是這種對創新的長期承諾推動並支撐著最頂尖的技術，確保客戶今日對於AI平台的投資得以延續3到5年之久。

此外，今年三月宣布推出的NVIDIA Hopper架構有望在未來的MLPerf測試中展現更優異的效能。以CUDA Graphs為例，它是一款能幫助在許多加速器上運行的作業負載降至最低的軟體，該軟體在此次的提交成果中被廣泛使用。我們函式庫中的最佳核心，如cuDNN和DALI中的預處理，提供額外的加速功能。

我們也針對如NVIDIA Magnum IO和SHARP等硬體、軟體和網路進行全方位的改善，將一些AI功能卸載到網路，推動更大規模的優異效能。

所有人都能從MLPerf資源庫取得NVIDIA使用的各種軟體以獲得世界級的成果。我們不斷將這些最佳化結果放入NGC（我們的GPU應用軟體中樞）的容器內，並提供NVIDIA AI企業級的優化軟體，並由NVIDIA提供全方位的支援。

A100首次亮相的兩年後，NVIDIA AI平台持續締造MLPerf 2.0中的最高效能成果，也是唯一一個提交所有基準測試項目的平台。我們的新一代Hopper架構有望在未來的MLPerf測試中又一次創造更卓越的成績。

NVIDIA的平台適用於任何規模的所有模型和框架，並提供處理AI作業負載各個環節的可替代性，它在各個雲端服務中皆可使用，且可向所有的主要伺服器製造商取得。