NVIDIA在MLPerf 3.0基準測試中 將AI推論推向新高度

MLPerf 作為獨立第三方基準測試，仍然是 AI 效能的權威衡量標準。自MLPerf成立以來，NVIDIA的AI平台在訓練和推論兩方面一直保持領先地位，包括今天發布的MLPerf Inference 3.0基準測試。

圖一 : NVIDIA H100和L4 GPU在最新MLPerf基準測試中，將工作負載提升

NVIDIA 創辦人暨執行長黃仁勳表示：「三年前當我們推出A100的時候，人工智慧領域主要是以電腦視覺為主導。生成式人工智慧已經來臨。這正是為什麼我們打造了Hopper，針對擁有Transformer引擎的GPT進行了優化。今天的MLPerf 3.0突顯出，Hopper的性能是A100的4倍。下一世代生成式人工智慧需要新的人工智慧基礎架構來訓練大型語言模型，並同時具備極高的能效。客戶正在大規模擴展Hopper，透過NVIDIA NVLink和InfiniBand來互通連接數萬個Hopper GPU構建人工智慧基礎架構。產業正努力發展安全可靠的生成式人工智慧，Hopper能夠協助實現這項重要的工作。」

最新MLPerf基準測試顯示，NVIDIA將人工智慧推論從雲端到邊緣的性能和效率提升到新境界。
...
...

使用者別	新聞閱讀限制	文章閱讀限制	出版品優惠
一般使用者	10則/每30天	0則/每30天	付費下載
VIP會員	無限制	25則/每30天	付費下載