对 Agent 工程师来说,Prompt Caching 是绕不开的一课:它决定了你的成本曲线,也决定了 context 该怎么组织才不会把缓存打穿。这个系列从底层机制讲到工程实战,最后把它和 Context Engineering 串成一条线。
推荐阅读顺序:
- KV Cache 原理:LLM 推理的底层机制 —— 缓存为什么存在
- Prompt Cache:Agent 成本控制的核心约束 —— 它如何决定成本结构
- Cache 杀手与行业实战:从踩坑到最佳实践 —— 哪些写法会打穿缓存
- Context Engineering:Agent 架构师的核心手艺 —— 缓存视角下的上下文工程
Context Rot 的物理现实、三层压缩策略、文件系统作为延展记忆、CLAUDE.md 最佳实践,以及从 Prompt Engineering 到 Context Engineering 的范式转变。
六大 Cache 杀手的诊断与对策,以及 Claude Code、Codex、Manus、Gemini CLI 的 Cache-Aware 架构全景扫描。
从 KV Cache 到 Prompt Cache 的认知跃迁:前缀精确匹配的铁律、Agent 的 I/O 100:1 失衡、以及为什么 Cache-Safe 是 Client 侧工程责任。
从 Token、Embedding、Attention 到 Prefill/Decode,一次讲透 KV Cache 的底层原理。面向 Agent 工程师的推理基础指南。