基於现今伺服器对於高速运算力需求逐日加深,将衍生出更多热能,又逢全球净零减碳转型热潮的挑战。技嘉科技集团旗下子公司技钢科技则在11月14~16日於美国丹佛举行的「超级运算Super Computing(SC23」)大展,演示多款创新伺服器,可支援NVIDIA GH200 Grace Hopper超级晶片和下一代AMD Instinct APU加速器平台,将着重运算中心最重要的需求,支援高效能IT硬体设备的散热技术,以及实时分析和快速实现成效的AI动力产品。
|
技嘉Super Computing超进化 展出先进的散热技术和可扩展资料中心基础设施产品 |
因应目前业界为追求更高效能的需求,而造就了更多热量产生,当今许多资料中心需要彻底转变其散热基础设施,以跟上时代的脚步。技嘉透过持续开发Arm和x86处理器架构伺服器、扩大高效IT硬体设备所需的先进冷却散热技术,支援人工智慧(AI)加速器的多样化伺服器平台,让运算设备可在维持高效能的情况下更节能,保持领先地位。
在今年SC23展会期间,技嘉除了发表新款单相浸没式冷却槽A1P0-EA0,并结合技嘉在浸没式冷却方案累积相当丰富的经验,提供客户能涵括浸没式冷却伺服器、冷却槽与冷却液,以及相关的维运工具、遍布全球服务等一条龙式的浸没冷却解决方案。
展出适用於NVIDIA Grace CPU/NVIDIA Grace Hopper超级晶片、AMD EPYC 9004和第4代Intel Xeon处理器的「直接液体冷却解决方案(Direct Liquid Cool, DLC)」,并配备技嘉研发的水冷循环模组,冷却液分配岐管等冷却装置。
另有一座模组化GIGA POD机柜级运算产品,可以8个GIGA POD组成一个基础工作群组,每个群组装配了32台G593伺服器,总共搭载256个NVIDIA H100 Tensor Core GPU,来实现1 exaflop(每秒一千亿浮点运算)的FP8浮点运算性能,已在今年成功为欧美云端服务供应商完成部署,协助这些新兴GPU云端服务供应商规划其资料中心基础架构;近期G593-SD0也叁与了MLPerf基准测试,并获得医疗影像辨识与自然语言处理应用的最隹效能表现。
此外,技嘉还展示了分别支援NVIDIA Grace CPU超级晶片的H263-V11、NVIDIA Grace Hopper超级晶片的H223-V10等基於Arm架构处理器的伺服器,不仅可支援NVMe硬碟;所配备的NVIDIA BlueField-3 DPU还能更快速处理伺服器间的资料传输,让客户能依需求进行快速的横向扩充,以满足市场对生成式AI或大型语言模型的需求。还有技嘉专为新一代AMD Instinct APU加速器设计的G383-R80系统首次公开亮相,能对AI工作负载提供相当大助力。
除了前述生成式AI及HPC产品以外,技嘉也针对企业级运算需求的客户,提出两款G293 GPU伺服器,包括专为AI推论(G293-Z43)或高性价比的AI训练(G293-Z23)工作进行最隹化设计,能兼顾关键型生产力工作或企业内AI演算运用的任务。
值得一提的是,技嘉也将配合NVIDIA在SC23宣告了下一代NVIDIA H200 Tensor Core GPU规划,在其上市同时推出一系列伺服器,来支持NVIDIA H200 Tensor Core GPU更隹的记忆体效能和容量;以及首个拥有HBM3e GPU的AI运算平台NVIDIA HGX H200,从而加速生成式AI和HPC应用,推动人类社会朝向数位化生活迈进。