微信公众号
关闭vLLM / SGLang 生态里的 PD 插件现实
互动数据需从 wechatDownload 导出导入
- 公众号
- 云原生指北
- 发布时间
- 检索词
- PD 分离 Prefill Decode
- 原文
- 原文链接待收录(不可用搜索页代替)
引擎开始提供分离接口,并不等于开箱即用。还要自己解决服务发现、一致性哈希和缓存亲和。很多团队其实跑的是「半分离」:prefill 独立,decode 仍和旧网关缠在一起。
原文链接待收录
本篇暂无已验证的微信公众号直链。请通过 wechatDownload 导出或扫描数据补全链接;勿使用搜狗搜索页作为「打开原文」。