随着生成式AI与预测式AI技术的蓬勃发展,AI服务器面临着前所未有的性能与能效挑战。在这一背景下,NVIDIA推出了其最新的DGX B300 AI加速系统,携手Intel至强6系列处理器,共同定义了AI计算的新标杆。
NVIDIA DGX B300系统内置双路Intel至强6776P处理器,作为主控CPU,至强6776P以其64个核心(128线程)、高达4.6GHz的PCT睿频能力,为AI加速系统提供了强大的任务管理和预处理性能。这一组合不仅确保了AI模型训练过程中数据的高效供给,还维持了AI处理器的理想运行状态。
至强6系列处理器的IO性能同样令人瞩目,支持多达96条PCIe 5.0通道,为不同加速器和扩展卡提供了充足的带宽和灵活性。此外,其内存支持也达到了新的高度,不仅支持DDR5-6400内存,还率先引入了MRDIMM内存技术,频率可高达8800MHz,为内存敏感性AI负载提供了无与伦比的带宽与容量。
在AI加速系统中,数据预处理和卸载是CPU的重要职责之一。至强6系列处理器通过支持AMX(高级矩阵扩展)指令,新增对FP16数据格式的支持,有效提升了这一过程的效率。随着MoE、MLP等模型的流行,CPU上卸载部分工作已成为趋势,至强6系列处理器正为此做好了准备。
除了强大的性能外,至强6系列处理器还具备出色的RAS(可靠性、可用性、可维护性)特性,这对于工作站、服务器和数据中心硬件至关重要。通过多项高级管理功能,至强6系列处理器能够大大减少大规模停机时间,避免高额损失。
NVIDIA DGX B300系统与Intel至强6776P处理器的结合,不仅展现了双方在技术上的深厚积累,更为AI加速系统提供了理想的选择。这一组合在工作负载性能、总体拥有成本之间达到了理想的平衡,为AI计算开启了新的篇章。无论是从性能、能效还是兼容性的角度来看,Intel至强6系列处理器都是AI加速系统中主控CPU的理想之选。