ITCOW牛新网 1月2日消息,根据Signal65最新发布的SemiAnalysis InferenceMAX基准测试报告,在Deepseek-R1 0528混合专家模型推理场景中,英伟达Blackwell GB200 NVL72机架系统展现出显著性能优势,远超类似集群规模的AMD Instinct MI355X系统。

英伟达GB200在AI推理基准测试中表现突出 领先AMD竞品

报告显示,在相同集群配置下,英伟达方案每GPU吞吐量达到75 tokens/秒,性能约为AMD MI355X的28倍。英伟达采用的”极致协同设计”策略,通过紧密互联72颗芯片并配备30TB高速共享内存,有效缓解了混合专家模型大规模扩展时的通信延迟和数据传输瓶颈。

英伟达GB200在AI推理基准测试中表现突出 领先AMD竞品

据ITCOW牛新网了解,从总体拥有成本角度分析,GB200 NVL72机架在经济性方面同样表现突出。结合Oracle云定价数据分析,其每token相对成本仅为AMD方案的十五分之一,同时提供更高的交互速率。不过报告也指出,AMD MI355X凭借高容量HBM3e内存在稠密模型环境中仍具竞争力。

随着AMD Helios平台与英伟达Vera Rubin平台的竞争即将到来,双方在机架级扩展方案上的较量将进一步升级。