🧞‍♂️ 据最新网络舆情数据显示，4月24日上午，DeepSeek-V4模型的预览版正式发布，并同步开源，标志着该技术在人工智能领域的进一步发展。

体育直播官方随后宣布，双方通过高效的芯模技术协同，成功实现了昇腾超节点全系列产品对DeepSeek V4系列模型的全面支持。

• 官方指出，昇腾950通过融合kernel和多流并行技术，
• 显著降低了Attention计算和访存开销，
• 极大提升了推理性能。此外，
• 结合多种量化算法，DeepSeek V4模型在推理部署中实现了高吞吐和低时延。
• 昇腾A3超节点系列产品也已全面适配，
• 并为用户提供了基于昇腾A3超节点的训练参考实现，
• 以便快速微调。

深度解析：体育直播

IT之家了解到，基于DeepSeek V4-Pro模型，在8K输入场景下，昇腾950超节点可实现TPOT约20ms时单卡Decode吞吐达到4700TPS。对于DeepSeek V4-Flash模型，在8K长序列输入场景下，TPOT约10ms时单卡Decode吞吐可达1600TPS（上述基准数据均基于离线推理模式采集，不包括服务调度和框架负载均衡的影响）。

在基于昇腾A3 64卡超节点结合大EP模式的部署中，DeepSeek V4-Flash模型在8K/1K输入输出场景下，基于vLLM推理引擎可实现2000+TPS的单卡Decode吞吐，且单卡吞吐量持续提升。官方表示，针对DeepSeek V4-Pro模型，昇腾A3也同步支持推理部署，性能持续优化中。