英伟达发布两款芯片,扩展AI产品线
CBINEWS
责任编辑:刘沙
电脑商情在线
时间:2024-11-19 15:14
文少
在近日举行的SC24超算大会上,英伟达推出了两款新的AI硬件产品:H200 NVL PCIe GPU和GB200 NVL4超级芯片。
H200 NVL PCIe GPU:为低功耗环境设计的AI计算卡
针对大多数企业机架提供的电力供应不足20kW且采用空气冷却的现实情况,英伟达推出了PCIe AIC形态的H200 NVL,这是一款相对低功耗的风冷AI计算卡。H200 NVL的厚度为双槽,其最高热设计功耗(TDP)从H200 SXM的700W降到了600W,算力也有所下降,例如INT8 Tensor Core算力下降了约15.6%。尽管如此,H200 NVL的HBM内存容量和带宽与H200 SXM保持一致,分别为141GB和4.8TB/s。此外,H200 NVL PCIe GPU支持双路或四路的900GB/s NVLink桥接器互联。
英伟达强调,与H100 NVL相比,H200 NVL的内存容量提高了1.5倍,带宽提高了1.2倍,AI推理性能提升了1.7倍,在高性能计算(HPC)应用中的性能也提高了30%。
GB200 NVL4超级芯片:面向单服务器解决方案
英伟达还推出了GB200 NVL4超级芯片,专为单服务器解决方案设计。该芯片集成了2个Grace CPU和4个Blackwell GPU,HBM内存池容量达到1.3TB,相当于两组GB200 Grace Blackwell超级芯片,整体功耗为5.4kW。
与上一代GH200 NVL4系统(包含4个Grace CPU和4个Hopper GPU)相比,新的GB200 NVL4在模拟性能上提升了2.2倍,在AI训练性能上提升了1.8倍,在AI推理性能上也提升了1.8倍。GB200 NVL4超级芯片预计将于2025年下半年上市。
这两款新产品的发布,进一步扩展了其在人工智能领域的产品线,巩固了英伟达在AI芯片领域的领导地位。