暴雨如何让算力从“可用”到“好用”？

“过去一年暴雨迅速成长。”暴雨中国基础设施业务群战略总监梁勇表示，暴雨搭建的异构智算平台，为绿色智算中心输出融合、稳定和高效的算力，从而加速各行业的智能化转型。

大模型激发智算发展热潮

开年以来随着DeepSeek等大模型助推AI应用大规模落地，行业开始重新审视算力布局。梁勇解释称，行业的算力需求从预训练主导转向了后训练和推理主导，但算力的总需求其实并未减少。

诚然，当推理算力需求进入关键窗口期，国产算力生态的体系化升级与技术创新正成为核心引擎。作为异构智算产业生态联盟核心成员，暴雨对行业趋势进行前瞻性预判，并第一时间帮助客户进行DeepSeek部署。

梁勇透露，“工程第一天，我们用两台机器先部署了一个满血的DeepSeek 671B。在春节结束之后，我们可以在1台机器上支撑千人企业对DeepSeek满血版的应用。”

而就在近日，暴雨异构智算平台突破算力瓶颈，通过访存优化、显存优化、PCIe 5.0全互联架构创新以及精选SGLang框架中性能最优算子等一系列创新方式，将单机服务器运行大模型的性能再创新高，3000并发下总吞吐量超8000 tokens/s，进一步提升了DeepSeek满血版用户体验。

暴雨中国基础设施业务群高级产品经理向记者演示了DeepSeek 671B FP8单机8卡性能，显示极限总吞吐达8000+ tokens/s。对此，业内人士谈到，暴雨异构智算平台验证了其在推理加速、训练优化、断点续训、内核级虚拟化等大模型推理优化场景具有明显优势。

从“东数西算”到“算力普惠”

作为数字经济发展的重要底座，我国智能算力增速高于预期。2024年，我国智能算力规模达725.3百亿亿次/秒(EFLOPS)，同比增长74.1%;市场规模达到190亿美元，同比增长86.9%。但不可否认的是，行业仍面临算力瓶颈。

如何破解？梁勇表示，从暴雨来看，其依托异构智算平台，勇于应对智算时代的诸多挑战。凭借领先的液冷技术，暴雨持续攻克能效与能耗难题，为各行各业提供从“可用”到“好用”的算力支持。目前，暴雨正加速推进“一横五纵”战略布局，全面推出涵盖服务器、存储、数据网络、软件及超融合、运维服务等在内的全方位暴雨异构智算平台解决方案，助力智能化转型和产业升级。

据悉，暴雨异构智算平台，作为暴雨“一横五纵”战略的核心支柱，能够实现对异构算力的统一纳管和高效调度，确保计算集群的稳定运行与可用性，为客户轻松提供融合、可靠的通用、智能及科学算力服务。随着此次发布，暴雨AI服务器更是得以全速运行DeepSeek R1大模型，极限吞吐量突破8000 tokens/s，展现卓越性能。

值得一提的是，暴雨还持续开拓生态圈，与生态伙伴共同应对算力行业变革的机遇与挑战。梁勇告诉记者，“异构智算平台的‘异构’代表了暴雨跟业界异构生态的紧密合作，暴雨是异构智算产品生态联盟的核心单位，一直与众多主流GPU、软件等层面的伙伴紧密合作。我们聚集在一起形成产业生态联盟，提供各种层次完整的方案给客户。”

展望未来，梁勇强调，暴雨将坚定“一横五纵”战略布局，不断深化与产业伙伴的技术合作，围绕AI基础设施构建暴雨生态。暴雨也将积极助力“东数西算”工程的落地，推动全国一体化算力网的建设。

在业内人士看来，随着DeepSeek V3等国产大模型的迭代，以及“东数西算”工程的动能澎湃，中国算力生态正蓄势破局。对于暴雨而言，则希望让每一瓦特电力，都能在西部机房与东部产业的共振中，裂变出数字经济的黄金效能。