浪潮信息元腦R1推理服務器現已完成對開源框架SGLang最新版本的深度適配，顯著提升了其在高性能運行DeepSeek R1 671B模型時的表現。

　　該服務器能夠支持超過1000路用戶并發訪問，展現出卓越的處理能力。搭載FP8計算引擎的NF5688G7服務器，在部署DeepSeek R1 671B模型時不僅速度快且無精度損失，顯存帶寬高達4.8TB/s，確保了推理解碼階段的極致加速。

　　此外，GPU P2P帶寬達900GB/s，進一步保障了最佳通訊性能，完美契合模型的技術特征。這一進展標志著浪潮信息在高性能計算領域的又一重要突破。