Memory Bandwidth on Jeanphilo Bloghttps://shio-chan-dev.github.io/jeanblog/zh/tags/memory-bandwidth/Recent content in Memory Bandwidth on Jeanphilo BlogHugo -- 0.165.0zh-cnWed, 26 Aug 2026 00:00:00 +0800Speculative Decoding 为什么能加速：从并行验证到 GPU Memory-Boundhttps://shio-chan-dev.github.io/jeanblog/zh/ai/llm/speculative-decoding-gpu-memory-bound/Wed, 26 Aug 2026 00:00:00 +0800https://shio-chan-dev.github.io/jeanblog/zh/ai/llm/speculative-decoding-gpu-memory-bound/从自回归生成的串行依赖出发，解释 speculative decoding 如何用一次 Target forward 并行验证多个 Draft token，以及 acceptance rate、batch 和 KV Cache 如何决定实际收益。