微信公众号
关闭PD 分离与连续批处理:谁调度谁
互动数据需从 wechatDownload 导出导入
- 公众号
- 调度器札记
- 发布时间
- 检索词
- PD 分离 Prefill Decode
- 原文
- 原文链接待收录(不可用搜索页代替)
分离把一次请求拆成两个作业,连续批处理又想把它们重新粘住。控制面如果没有统一的 request id 和阶段状态,排障会变成两套日志对时间戳。
原文链接待收录
本篇暂无已验证的微信公众号直链。请通过 wechatDownload 导出或扫描数据补全链接;勿使用搜狗搜索页作为「打开原文」。