猶如真人般的自動化客服內容、在任何連網裝置上都能享受到專業工作站的運算效能及電影畫質般的PC遊戲,如今北美、歐洲及亞洲地區的AWS雲端用戶,也能透過全新Amazon EC2 G4執行個體享受到NVIDIA T4 Tensor 核心 GPU所帶來的多樣功能。由廣泛的軟體堆疊支援的NVIDIA T4 GPU能提供G4執行個體用戶高效能、具多功能性與高效率的運算。
此軟體平台已經針對豐富的應用進行優化,包括運用於深度學習的NVIDIA cuDNN、運用於資料分析與機器學習的NVIDIA RAPIDS、運用於雲端工作站繪圖的NVIDIA Quadra虛擬工作站,和運用於雲端遊戲的NVIDIA GeForce。經NVIDIA優化後的軟體堆疊亦包括多款API、CUDA及用於特定領域的CUDA-X函式庫,像是TensorRT、NCCL、OptiX及Video Codec SDK。
AWS運算服務部門副總裁Matt Garman表示:「我們把重心放在解決最嚴峻的難題上,這些難題使得客戶無法妥善發揮運算密集型應用程式的優點。AWS 提供最全面的產品組合用於建立、訓練和部署機器學習模型,透過 Amazon EC2各式各樣最佳化執行個體類型來滿足不同的機器學習使用案例。透過T4 GPU支援的全新G4執行個體,開發人員可以用更平價的方式進行機器學習。」
花更少力氣 做更多AI
NVIDIA重新打造推出NVIDIA T4這款第二代Tensor核心GPU,在維持CUDA可編程特性的同時,又能達到AI應用項目的最高效能。
NVIDIA T4的INT8運算效能高達130 TOPS,具有混合精度張量處理能力,這是加快因應AI應用項目如影像分類、物體偵測、自然語言理解、自動語音辨識及推薦系統等,不斷發展之創新性、多樣性及複雜性所必需的能力。
Amazon是業界運算速度最快的超大規模業者之一,提供NVIDIA GPU以支援即用型NVIDIA NGC容器進行訓練和推論。EC2 P3 執行個體搭配NVIDIA V100 Tensor核心GPU,使得客戶可以使用自動混合精度功能,將訓練機器學習的時間,從原本的數日減少到只需數小時便可完成。客戶使用EC2 G4執行個體,就能大規模部署AI服務,又能大幅減少營運成本。
加上我們日前宣布與VMware的合作,使用VMware Cloud on AWS這項服務的客戶很快就能享受全新且極具擴充性和安全性的雲端服務,該雲端服務由NVIDIA T4 GPU以及我們全新的NVIDIA Virtual Compute Server (vComputeServer)軟體加速的Amazon EC2裸機執行個體所組成。
企業可以藉由此企業級的混合式雲端平台,加快應用程式現代化,並從資料中心到AWS雲端環境一致的VMware基礎設施之間,執行統一的部署、遷移和操作等作業,以支援AI、機器學習和資料分析等這些最需要密集運算的工作內容。
隨時隨地採用即時光線追蹤及AI增強繪圖功能
電腦繪圖領域一直以來不斷追求著「即時光線追蹤」這個至高無上的聖杯,這項技術能夠產生出畫面極為逼真的場景。設計師與藝術家可以運用即時渲染、AI增強繪圖功能、影片與影像處理等技術,以一種嶄新方式創作出畫面栩栩如生的內容。
NVIDIA T4 是首款部署在雲端環境裡的 NVIDIA RTX 光線追蹤 GPU。T4 GPU 內專用的運算資源 RT Core,會用超高效率來計算光線追蹤,如此一來便能捨棄過去昂貴的光線追蹤方法。
新款 G4 執行個體結合NVIDIA Quadro 虛擬工作站(Quadro vWS)與Amazon Machine Images (AMI),以支援最新的光線追蹤API,包括Microsoft DXR、NVIDIA OptiX以及Vulkan。不論是媒體娛樂、建築、製造、石油和天然氣等業界的技術與創意專業人士,皆可以在AWS雲端環境裡運行最新的繪圖軟體應用程式。
在不到五分鐘的時間內,便可使用AWS來部署虛擬工作站。只要開啟AWS Marketplace、選擇NVIDIA Quadro vWS機器影像和G4執行個體,就能在Windows Server 2016與Windows Server 2019上使用。
GPU助力的雲端遊戲
T4 GPU背後的Turing架構也將NVIDIA在遊戲方面的強勁實力帶到AWS,這麼一來便能使用GPU的硬體編碼器引擎,對要求最嚴苛的遊戲進行渲染和串流,還能使用Video Codec SDK來設計這個硬體編碼器引擎的程式碼。
遊戲發行商可以使用最新的NVIDIA技術來建立自己的雲端遊戲執行個體,玩家幾乎可以在所有裝置上取得完整的PC遊戲目錄。
遊戲玩家可以在高解析度的狀態下,用高速、流暢的影格率來暢玩各種最新遊戲,不用擔心硬體是否需要升級、驅動程式是否需要更新或遊戲修補內容的問題。
可以在AWS Marketplace取得支援這項功能的NVIDIA驅動程式,並且在Windows Server 2016、Windows Server 2019及Linux OS上運行AWS G4執行個體。
從AWS EC2 G4執行個體開始著手
Clarifai、Electronic Arts、GumGum以及PurWeb是首批使用Amazon EC2 G4執行個體的客戶,以利用NVIDIA T4的多種運算能力及出色效能,大規模運行各種需要進行密集運算的工作。兩者在這方面皆提供強大的服務,又協助自己的客戶降低建構及部署這些服務的成本。
在接下來的數週內,G4 執行個體還將支援Amazon Elastic Inference,讓使用者能將GPU加速加入任何Amazon EC2或Amazon SageMaker執行個體中,以更低的成本在更短時間內進行推論,其省下的幅度高達75%。