大模型推理加速、AI Agent 与工程实践。https://zkl-ai.top/https://zkl-ai.top/blog/vllm-notes-06-engine-init/https://zkl-ai.top/blog/vllm-notes-06-engine-init/LLM(...) 构造时那条链做了什么，以及 KV cache 能开多少 block 到底是怎么算出来的。Sun, 04 Oct 2026 00:00:00 GMThttps://zkl-ai.top/blog/vllm-notes-05-engine-skeleton/https://zkl-ai.top/blog/vllm-notes-05-engine-skeleton/从 LLM.generate() 往里走，看引擎分成哪几层、三个角色各自住在哪、一条请求有多少种状态。Sat, 03 Oct 2026 00:00:00 GMThttps://zkl-ai.top/blog/vllm-notes-04-pagedattention/https://zkl-ai.top/blog/vllm-notes-04-pagedattention/KV cache 的显存到底浪费在哪，分页怎么把浪费从 60-80% 压到 4% 以下。Fri, 02 Oct 2026 00:00:00 GMThttps://zkl-ai.top/blog/vllm-notes-03-scheduler/https://zkl-ai.top/blog/vllm-notes-03-scheduler/每一步的 token 预算怎么分、装不下时抢谁、抢完的请求怎么回到队列。Thu, 01 Oct 2026 00:00:00 GMThttps://zkl-ai.top/blog/vllm-notes-02-batching/https://zkl-ai.top/blog/vllm-notes-02-batching/把长度不齐的请求拼进一次前向，以及静态批处理为什么会中途变空、连续批处理改了什么。Wed, 30 Sep 2026 00:00:00 GMThttps://zkl-ai.top/blog/vllm-notes-01-minimal-offline/https://zkl-ai.top/blog/vllm-notes-01-minimal-offline/从一段最简的离线推理代码出发，讲清一次生成的过程，以及 vLLM 要解决的核心问题。Tue, 29 Sep 2026 00:00:00 GMThttps://zkl-ai.top/blog/vllm-notes-overview/https://zkl-ai.top/blog/vllm-notes-overview/以 vLLM 0.30.0 源码为基线，从最简的离线例子出发，逐步搭建 vLLM 的知识体系。Tue, 29 Sep 2026 00:00:00 GMThttps://zkl-ai.top/blog/hello-world/https://zkl-ai.top/blog/hello-world/开篇：这个博客会写些什么、为什么用 Astro 搭建，以及如何用它记录大模型推理加速与 AI Agent 的实践。Mon, 28 Sep 2026 00:00:00 GMT