技术动态 > 正文
浪潮发布AI服务器NF5488M6
2021/4/20 14:46   浪潮      关键字:浪潮 AI服务器      浏览量:
NF5488M6率先在极致4U空间内支持2颗Intel最新发布的Icelake处理器和8颗NVSwitch全互联的NVIDIAA100GPU,通过自研优化的通道压缩、多GPU轮询调度算法,配置领先的AI算力资源调度平台AIStation,充分释放强大的AI计算性能。
  4月15日,IPF2021浪潮数据中心合作伙伴大会,浪潮发布全球性能领先的AI服务器NF5488M6。NF5488M6率先在极致4U空间内支持2颗Intel最新发布的Icelake处理器和8颗NVSwitch全互联的NVIDIAA100GPU,通过自研优化的通道压缩、多GPU轮询调度算法,配置领先的AI算力资源调度平台AIStation,充分释放强大的AI计算性能。

  浪潮NF5488M6AI服务器▲
  NF5488M6是业界同类产品中唯一实现CPU-GPU间通道免中继设计(PCI-ERetimerFree)的AI服务器,大幅降低通信延迟。2颗最先进的IntelIceLake处理器配合8颗A100GPU可以提供强大的AI计算力。最高可达10TB的RDIMM/LRDIMM/BarlowPassDDR43200MT/s内存为系统提供稳定快捷的数据吞吐,8块NVMeSSD实现CPU直通设计,进一步降低I/O延迟。配置4张200Gb/sInfiniband网卡,支持多节点线性扩展,通过GPUDirectRDMA实现大规模集群极致互联,打造强大的AI算力。
  NF5488M6聚合浪潮卓越的AI软硬协同优化能力,不仅通过硬件性能的精细校准和全面优化,打造超强AI性能,更在软件层面,结合GPU硬件拓扑对多GPU的轮询调度优化使单卡至多卡性能达到了近似线性扩展。配置浪潮领先的算力资源管理平台AIStation,NF5488M6实现生产、调度一站式算力平台,可充分释放AI计算力。
  浪潮NF5488M6支持业内最成熟广泛的AI开发生态,完美支持TensorFlow、PyTorch、MXnet、飞桨等业界主流深度学习框架,并结合GPUTensorCore单元的计算特征,通过自研通道压缩算法成功可实现模型的极致性能优化,在精度无损的情况下显著提升AI训练性能。

微信扫描二维码,关注公众号。