导语：

浪潮AI服务器 大幅提升智能语音模型训练及线上推理

随着智慧时代的到来，数据增长不断攀升，且呈现出复杂多样的趋势，所以对于计算的要求越来越高。浪潮作为全球领先的计算领导品牌，一直在打造敏捷高效的人工智能基础设施。其中浪潮AI服务器在中国市场的占有率已经连续三年保持50%以上，实力强劲。

近日，在GTC元脑生态技术论坛上，中科极限元、趋动科技、睿沿科技等元脑生态伙伴分享了多个场景下浪潮AI服务器NF5488A5的实测数据，结果表明浪潮NF5488A5服务器大幅提升了智能语音、图像识别等AI模型的训练和推理性能，促进了产业AI解决方案的开发与应用。

中科极限开发的智能语音交互解决方案在国内处于领先水平，广泛应用于教育、交通、呼叫中心、智能硬件等多个领域，本次在浪潮NF5488A5服务器进行加速。NF5488A5高性能、高带宽、易部署的特性极大地促进了智能语音模型训练及线上推理。测试数据显示，在相同准确率下，与原有的系统相比，NF5488A5将模型训练速度提升了50%，单机最大推理路数提升88%，推理延迟提升65%。

趋动科技与浪潮联合打造了业内领先的一体化GPU资源池化解决方案。本次测试采用TensorFlow框架的Benchmark，测试小模型推理、大模型训练等多种AI应用场景，验证趋动科技OrionX AI加速器资源池化方案对浪潮NF5488A5的兼容性和性能。结果表明， NF5488A5服务器性能优异，部署资源池化方案后，本机性能损耗小于1%，对比以往服务器的GPU性能，数据提升近50%。

睿沿科技推出的高山雨燕工业视觉平台是为工业生产场景构建的智能多业务管理安全生产管理平台，可实现远程巡检、作业安全监管、区域安防等功能。该平台在计算层使用了浪潮NF5488A5加速训练和推理。实测结果显示，在图片视频分辨率相同的情况下，模型原来的训练时间为140分钟，使用NF5488A5之后，训练时间可缩短到105分钟，速度提升25%。单机最大推理FPS(每秒传输帧数)由20800提高到28000，提升35%。

以上实测数据显示，浪潮NF5488A5服务器可广泛应用于图像视频、语音识别、金融分析、智能客服等典型AI应用场景，帮助AI用户高效完成AI基础设施和开发环境的构建，缩短周期，显著提升AI开发和应用效率。

现在，人工智能应用不断落地，浪潮开始着力打造AI计算平台、资源平台和算法平台等人工智能平台，并通过元脑生态不断与科技领先的企业保持在系统与应用方面的深入紧密合作，从而推进AI产业化和产业AI化进程。

(文章为作者独立观点，不代表艾瑞网立场)