一个模型不够用时:Mixture of Agents 与 Hermes 的工程实现

Mixture of Agents(MoA)真正难的不是让多个模型一起回答,而是让它们想完之后,agent 系统里仍然只有一个清晰的执行边界。本文从单模型的盲区出发,借 Hermes 的实现讲清 MoA 如何被封装成一个普通 provider 抽象——三个工程不变量(执行权唯一、会话历史不变、缓存前缀不变)、随迭代轮数线性增长的成本结构,以及五类真正进生产才会暴露的 failure modes。

2026年6月29日 · 18 分钟 · Cui Liang

中文与有限表示:一个矛盾在四代技术里的轮回

从林语堂 1947 年的明快打字机到 2026 年的大模型 token 词表,中文一直在被塞进只能放下有限单元的信息系统:键盘、编码、tokenizer、神经网络表征。每一代都声称自己解决了问题,下一代会发现问题只是被搬到了新的房间。这是一篇关于代价守恒的长文。

2026年5月6日 · 18 分钟 · Cui Liang

推理服务是怎么影响你的 Agent 的:推理框架与架构决策

自顶向下拆解推理框架:延迟构成、上下文成本、模型路由、多模态代价、韧性设计——面向 Agent 架构师的推理层指南。

2026年2月27日 · 28 分钟 · Cui Liang

模型的能力是怎么来的:从预训练到 RLHF

预训练压缩知识、SFT 教会格式、RLHF 对齐偏好、Function Calling 赋予工具能力——面向 Agent 开发者的模型训练全景指南。

2026年2月26日 · 34 分钟 · Cui Liang

一句话是怎么变成 AI 回复的:LLM 的工作原理

从 Tokenization 到自回归生成,用一句「帮我查一下北京明天的天气」走完 LLM 处理全流程。面向 Agent 开发者的灰盒认知指南。

2026年2月15日 · 39 分钟 · Cui Liang

Context Engineering:Agent 架构师的核心手艺

Context Rot 的物理现实、三层压缩策略、文件系统作为延展记忆、CLAUDE.md 最佳实践,以及从 Prompt Engineering 到 Context Engineering 的范式转变。

2026年1月31日 · 20 分钟 · Cui Liang

Prompt Cache:Agent 成本控制的核心约束

从 KV Cache 到 Prompt Cache 的认知跃迁:前缀精确匹配的铁律、Agent 的 I/O 100:1 失衡、以及为什么 Cache-Safe 是 Client 侧工程责任。

2026年1月17日 · 8 分钟 · Cui Liang

KV Cache 原理:LLM 推理的底层机制

从 Token、Embedding、Attention 到 Prefill/Decode,一次讲透 KV Cache 的底层原理。面向 Agent 工程师的推理基础指南。

2026年1月10日 · 25 分钟 · Cui Liang