AI Agent 的人类控制权

Human-in-the-loop 不是"加个确认按钮"那么简单。这个系列拆开人类控制权的三层结构，横向对比六个 Agent 框架各自的答卷，最后落到生产里最容易被忽略的两个陷阱——从 Demo 到生产的距离，以及"让人类盲审"这种伪控制。

推荐阅读顺序：

[HITL 番外] 微软的 Agent 框架三国演义

AutoGen、Semantic Kernel 与 Agent Framework 的分裂与统一。从 2023 年两条平行线，到 2024 年 AutoGen 一分为二，再到 2025 年合并为 Microsoft Agent Framework。

Automation Bias 是 HITL 的隐形杀手。五个审批界面设计原则：展示为什么、暴露风险、增加认知摩擦、提供对比基线、支持编辑。

有状态 Agent vs 无状态 Web 的结构性矛盾，Checkpoint 的四层状态，异步审批的 12 步流程，状态膨胀治理，滑动自主性的工程实现。

用三层模型对 LangGraph、AutoGen、CrewAI、Semantic Kernel、MS Agent Framework、Claude Code 做 HITL 体检。结论：Checkpoint 是分水岭。

三层模型拆解 HITL：Layer 1 定义人类角色（把关人/协作者/纠正者），Layer 2 定义工程机制，Layer 3 定义基础设施（Checkpoint/滑动自主性）。

Agent 能调工具就有外部副作用，有副作用就需要控制机制。System Prompt 不够——生产环境需要模型侧软控制和框架侧硬控制双层防御。