赛道扫描

硅星人Pro

5 篇扫描条目 · 追踪始于

下载正文(本地操作)

x-fetcher 仅支持单篇 mp URL。对已收录链接运行:

node scripts/download-account-bodies.mjs --account "硅星人Pro"

文章列表

  • 结构17·深度·仅据标题摘要

    ·vLLM SGLang

    消费卡上的数字不能直接外推数据中心,但能检验实现是否诚实。记录了 7B/14B 在 2k/8k 上下文下的首字与吞吐,并标出开启前缀缓存前后的差。适合当作个人基线,而不是对外 SLA。

    原文链接待收录

  • 结构17·深度·仅据标题摘要

    ·PD 分离 Prefill Decode

    用火焰图说明:短 decode 占着 SM,长 prefill 进不来;或反过来。PD 分离是在空间上拆开这张图,而不是让内核「更聪明」。适合给非内核同学对齐语言。

    原文链接待收录

  • 深度13·结构·仅据标题摘要

    ·Kueue Volcano Gang Scheduling

    没有可见性,所有调度讨论都会变成阴谋论。哪怕只是把 Kueue 队列位置打到注释里,也能减少一半「平台是不是针对我」的工单。

    原文链接待收录

  • 深度16·结构·仅据标题摘要

    ·GPU 算力成本 MFU

    一组卡 MFU 40% 但满载,往往好过一组卡 0% 在排队策略里睡大觉。容量规划要同时看利用率和等待时间,单看其中一个都会买错下一单。

    原文链接待收录

  • 论据16·结构·仅据标题摘要

    ·模型评测 benchmark 独立复现

    把英文基准翻成中文,难度和答案空间都变了。用翻译集给中文模型打「国际分」,既不公平,也不可比。独立复现应分开报告。

    原文链接待收录