人工智能行业跟踪报告：英伟达发布新一代GPU架构，NVLink连接技术迭代升级
- 2024-03-29 18:10:58上传人：凉薄**空城
-
Aa 小 中 大
主要观点事件描述2024年3月19日，英伟达正式发布Blackwell架构的GPUB200、计算平台HGXB200以及新一代NVLink5.0连接技术。同时，英伟达基于B200和GraceCPU推出了超级芯片GB200，以及由72张GB200组成的DGXGB200NVL72超级计算机。值得关注的是，新一代NVLink连接技术支持单块Blackwell架构的GPU实现1.8TB/s的传输带宽。根据Sem
- 1 英伟达推出 Blackwell架构，生成式 AI训练、推理再加速
- 2 风险提示
- 图 1：HGX B200计算平台在生成式 AI推理场景下实时吞吐
- 量大幅上升
- 图 2：HGX B200计算平台在生成式 AI模型训练场景下训练
- 速率提升明显
- 图 3：GB200 NVL72在推理场景下实时吞吐量较 HGX100
- 提升更明显
- 图 4：GB200 NVL72在生成式 AI模型训练场景下性能有所
- 提升
- 图 5：GB200由铜缆连接 GB200节点机架与 NVSwitch机
- 架
- 图 6：GB200使用第五代 NVLink连接技术增强 GPU卡间互
- 联能力
- 图 7：GB200和800G光模块的数量关系与 H100类似
- 表
- 表 1：Blackwell架构GPU更注重FP8和FP4浮点运算
- 表 2：人工智能领域相关公司对比表
我要投稿
版权投诉报告网所有机构报告是由用户上传分享，未经用户书面授权，请勿作商用！
