浪潮元脑R1服务器支持开源框架SGLang，单机DeepSeek 671B并发超1000

浪潮元脑R1推理服务器NF5688G7原生搭载FP8计算引擎，针对DeepSeek R1 671B模型部署速度快且无精度损失，1128GB HBM3e高速显存满足671B模型 FP8精度下不低于800GB显存容量的需求，单机支持全量模型推理情况下，仍保留充足的KV缓存空间。显存带宽高达4.8TB/s，契合DeepSeek R1模型"短输入长输出、显存带宽敏感"的技术特征，在推理解码阶段可实现加速。在通信方面，GPU P2P带宽达900GB/s，保障单机部署张量并行通讯性能。

SGLang是新兴的开源推理框架项目，其得到活跃的社区支持，并在工业界获得了广泛应用。SGlang的核心特性包括：快速的后端运行时、灵活的前端语言、广泛的模型支持等。尤其值得关注的是，SGLang针对MLA注意力机制开展了针对性的工程优化，并在框架上对MoE架构的推理做了优化设计。SGLang也是适配DeepSeek v3和R1的优 选推理框架之一。