微信公众号
关闭Prefill 集群可以更「脏」一点
互动数据需从 wechatDownload 导出导入
- 公众号
- 训练推理手记
- 发布时间
- 检索词
- PD 分离 Prefill Decode
- 原文
- 原文链接待收录（不可用搜索页代替）
Prefill 对中断更宽容，适合混部抢占式节点；Decode 要粘性和热缓存，适合稳定池。PD 分离让财务第一次能把两拨 GPU 买成不同规格。
原文链接待收录
本篇暂无已验证的微信公众号直链。请通过 wechatDownload 导出或扫描数据补全链接；勿使用搜狗搜索页作为「打开原文」。