【问】公司官网上看到了《面向AI大模型训练的高性能网络》介绍了一种方案：中兴通讯RoCEv2网络端网协同创新方案，该方案提及可以使网络的吞吐率由60%提升到90%以上。请问公司是否已经在自研大模型中进行了该方案的验证呢？通过该方案的部署后，研发效率能提升多少呢？该技术与业内其它技术相比是否有竞争力？是否真能让训练成本大幅度降低呢？ 【答】中兴通讯：您好，感谢您的关注。
公司RoCEv2网络端网协同创新方案是基于公司自研的以太交换芯片和RDMA网卡芯片的创新方案，主要用于大模型训练场景，可以降低大模型训练成本。而研发效率提升属于研发大模型推理应用的范畴，与研发大模型训练是两个不同的阶段和应用场景，因此上述RoCEv2网络端网协同创新方案对研发效率提升没有直接影响。目前该方案还在研发过程中。¶¶2024-04-12 16:55:55 §