结构17·深度·仅据标题摘要
·PD 分离 Prefill Decode
一旦跨过单机,就要谈序列化、校验和失败重放。国产互联和 NVIDIA 域不能共用同一套假设。Day0 支持经常卡在「KV 过不了河」,而不是模型权重本身。
原文链接待收录
3 篇扫描条目 · 追踪始于
x-fetcher 仅支持单篇 mp URL。对已收录链接运行:
node scripts/download-account-bodies.mjs --account "国产芯观察"
结构17·深度·仅据标题摘要
·PD 分离 Prefill Decode
一旦跨过单机,就要谈序列化、校验和失败重放。国产互联和 NVIDIA 域不能共用同一套假设。Day0 支持经常卡在「KV 过不了河」,而不是模型权重本身。
原文链接待收录
结构17·深度·仅据标题摘要
·昇腾 国产卡 Day0
新模型发布当晚,CUDA 世界往往已有 nightly。昇腾要的是图编译、算子、集合通信和推理引擎同一天齐套。Day0 是一份清单,不是一句口号。
原文链接待收录
结构14·深度·仅据标题摘要
·昇腾 国产卡 Day0
在昇腾上手写 kernel 的回报曲线不同,图编译和融合才是主战场。把 CUDA 优化笔记原样搬过来,通常会失望。培训应从编译日志读起。
原文链接待收录