微信公众号
关闭Prefill 和 Decode 为什么要分家
互动数据需从 wechatDownload 导出导入
- 公众号
- Serving 研究室
- 发布时间
- 检索词
- PD 分离 Prefill Decode
- 原文
- 原文链接待收录（不可用搜索页代替）
Prefill 吃算力，Decode 吃显存带宽，两者绑在同一组 SM 上会互相伤害。PD 分离把阶段拆到不同池，用中间 KV 传输换调度自由度。这是 2025–2026 云原生训推最常被问的架构题。
原文链接待收录
本篇暂无已验证的微信公众号直链。请通过 wechatDownload 导出或扫描数据补全链接；勿使用搜狗搜索页作为「打开原文」。