标签: 推理

包含该标签的全部文章 "推理".

• 大模型并行的几种切法

  2026年9月29日

  DP、TP、PP、EP、CP 各自切什么？同样八张卡，DP=8、TP=8、DP=4 加 TP=2、DP=4 加 PP=2 有什么不同？从显存、通信、单请求延迟和总吞吐讲清多机多卡的取舍。