浪潮元脑R1推理服务器NF5688G8是基于浪潮信息新一代AI超融合架构平台,面向超大规模数据中心的强劲性能、扩展人工智能服务器,至强算力密度6U空间内搭载1块NVIDIA Hopper架构HGX-8GPU模组,系统支持4.0Tbps网络带宽,支持FP8原生精度下单机部署DeepSeek 671B大模型。
一、浪潮NF5688 G8服务器 产品概况
浪潮元脑R1推理服务器NF5688G8是基于浪潮信息新一代AI超融合架构平台,面向超大规模数据中心的强劲性能、扩展人工智能服务器,至强算力密度6U空间内搭载1块NVIDIA Hopper架构HGX-8GPU模组,系统支持4.0Tbps网络带宽,支持FP8原生精度下单机部署DeepSeek 671B大模型。
浪潮NF5688 G8服务器搭载2颗AMD第五代EPYC处理器(Max cTDP 500W),可达3TB系统内存,128TB NVMe高速存储,支持高达12个PCIe Gen5 x16扩展槽位,可灵活支持OCP 3.0、CX7、多种智能网卡等,构建面向超大模型训练、元宇宙、自然语言理解、推荐、AIGC等场景的AI算力平台。
二、浪潮NF5688 G8服务器 产品特性
强劲性能
单机显存容量1128G,实现DeepSeek671B模型完整部署
2颗AMD第五代 EPYC处理器
集成Transformer引擎,大幅加速GPT大模型训练速度
良好能效
散热性能优化,风道解耦设计提升20%系统能效比
12V和54V N+N冗余电源分离供电设计,减少电源转换损耗
智能分层调节散热,降低功耗与噪音
优化架构
节点内全PCle 5.0高速链路,CPU至GPU带宽提升4倍
节点间高速互联扩展,4.0Tbps无阻塞带宽IB/ROCE组网
集群级优化架构设计,集群级优化架构设计,GPU: 计算IB:存储IB=8:8:2
多元兼容
全模块化设计,一机多芯,灵活配置支持本地和云端部署
加速大模型训练和推理
支持多样化的SuperPod解决方案,适用AIGC、AI4Science 及元宇宙等丰富场景
三、浪潮NF5688 G8服务器 规格参数