在AWS re:Invent年會上,Amazon Web Services(AWS)宣布推出三款分別由三種新的自研晶片支援的Amazon Elastic Compute Cloud(Amazon EC2)執行個體,為客戶廣泛的工作負載提供更高的性價比。Hpc7g執行個體搭配Amazon自研的最新Graviton3E處理器,與前一代C6gn執行個體相比浮點效能提高2倍,與前一代Hpc6a執行個體相比效能提高20%,為AWS上的高效能運算工作負載提供超高性價比。
|
第五代AWS Nitro晶片 |
配備新一代Amazon Nitro的C7gn執行個體,與前一代網路優化型執行個體相比,為每個CPU分別提供多達2倍的網路頻寬和2倍的每秒網路封包效率(packet rate)效能,為網路密集型工作負載提供超高的網路頻寬、網路封包效率效能和性價比。Inf2執行個體搭配Amazon自研的最新Inferentia2機器學習加速推論晶片,是一個專門為執行多達1,750億個參數的大型深度學習模型而建構的,與前一代Inf1執行個體相比可提供高達4倍的吞吐量,降低高達10倍的延遲,以最低的成本為Amazon EC2上的機器學習推論提供最低延遲。
AWS擁有十多年晶片設計經驗,在雲端中以更低成本實現更高效能和可擴展性。十多年來,AWS推出多種客製化的晶片設計,也幫助客戶執行要求更高效能的工作負載,包含更快的處理速度、更高的記憶體容量、更快的儲存I/O和更高的網路頻寬。AWS自2013年推出Amazon Nitro系統以來,已經開發多個自研晶片,包括五代Nitro系統、致力為各種工作負載提升效能和優化成本的三代Graviton晶片、用於加速機器學習推論的兩代Inferentia晶片,以及用於加速機器學習訓練的Trainium晶片。
AWS在晶片設計和驗證的敏捷開發週期中使用以雲端為基礎的電子設計自動化 (Electronic Design Automation – EDA),使團隊能夠更快地進行創新,也能更快地將晶片提供給客戶。AWS更現代化、更節能的半導體處理確保晶片的快速反覆運算及交付。每推出一款新的晶片,AWS都進一步提升這些晶片支援的Amazon EC2執行個體的效能、效率以及更優化的成本,為客戶提供更多的晶片和執行個體組合選擇,針對他們不同的工作負載進行優化。
很多領域的組織需要依靠高效能運算來解決複雜的學術、科學和商業問題。現今許多客戶如阿斯特捷利康(AstraZeneca)、Formula 1一級方程式賽車、Maxar Technologies衛星影像科技等,皆在AWS上借助AWS提供的安全性、可擴展性和彈性,執行傳統的高效能運算工作負載,包括基因組學處理、計算流體動力學和天氣預報模擬等。工程師、研究人員和科學家使用Amazon EC2高效能運算優化型執行個體如Hpc6a、Hpc6id、C5n、R5n、M5n和C6gn,執行高效能運算工作負載,這些執行個體提供近乎無限的運算能力和伺服器之間的高網路頻寬,實現數千個核心處理和資料交換。雖然這些執行個體的效能足以滿足目前大多數高效能運算場景,但人工智慧和自動駕駛汽車等新興應用需要高效能運算優化執行個體,可以擴展到數萬個甚至更多的核心,進一步解決難度持續增加的問題並降低高效能運算工作負載的成本。
Hpc7g執行個體由新的Amazon Graviton3E晶片提供支援,為客戶在Amazon EC2上的高效能運算工作負載如計算流體力學(computational fluid dynamics,CFD)、天氣模擬、基因組學和分子動力學等,提供超高的性價比。與採用Graviton2處理器的前一代C6gn執行個體相比,Hpc7g執行個體的浮點效能提高2倍;與前一代Hpc6a執行個體相比,效能提高20%,讓客戶能夠在多達數萬個核心的高效能運算叢集中進行複雜的運算。Hpc7g執行個體也提供高記憶體頻寬和所有AWS執行個體類型中最高的每CPU網路頻寬,可以更快的執行並完成高效能運算應用。客戶可以透過開源的叢集管理工具Amazon ParallelCluster使用Hpc7g執行個體,與其它執行個體類型一起配置Hpc7g執行個體,讓客戶在同一個高效能運算叢集中靈活執行不同的工作負載類型。