微信公众号
关闭RadixAttention 为什么突然值钱
互动数据需从 wechatDownload 导出导入
- 公众号
- 机智流
- 发布时间
- 检索词
- vLLM SGLang
- 原文
- 原文链接待收录（不可用搜索页代替）
Agent、工具调用和多轮客服把同一段系统提示反复送进引擎。前缀树一旦命中，prefill 从算力问题变成查表问题。SGLang 把这件事做成默认路径，账本上最明显的是输入 token 单价下降。
原文链接待收录
本篇暂无已验证的微信公众号直链。请通过 wechatDownload 导出或扫描数据补全链接；勿使用搜狗搜索页作为「打开原文」。