做 Agent 不需要成为 ML 研究员,但完全不懂模型底层会让你在调试和架构决策时抓瞎。这个系列只讲 Agent 工程师用得上的那部分——从推理流程、能力来源到推理框架,够用为止。持续更新中。
推荐阅读顺序:
- 一句话是怎么变成 AI 回复的:LLM 的工作原理 —— 从输入到输出的推理流程
- 模型的能力是怎么来的:从预训练到 RLHF —— 能力从哪来
- 推理服务是怎么影响你的 Agent 的:推理框架与架构决策 —— 推理框架对架构意味着什么
做 Agent 不需要成为 ML 研究员,但完全不懂模型底层会让你在调试和架构决策时抓瞎。这个系列只讲 Agent 工程师用得上的那部分——从推理流程、能力来源到推理框架,够用为止。持续更新中。
推荐阅读顺序:
自顶向下拆解推理框架:延迟构成、上下文成本、模型路由、多模态代价、韧性设计——面向 Agent 架构师的推理层指南。
预训练压缩知识、SFT 教会格式、RLHF 对齐偏好、Function Calling 赋予工具能力——面向 Agent 开发者的模型训练全景指南。
从 Tokenization 到自回归生成,用一句「帮我查一下北京明天的天气」走完 LLM 处理全流程。面向 Agent 开发者的灰盒认知指南。