[HITL 5/5] 别让人类盲审
Automation Bias 是 HITL 的隐形杀手。五个审批界面设计原则:展示为什么、暴露风险、增加认知摩擦、提供对比基线、支持编辑。
Automation Bias 是 HITL 的隐形杀手。五个审批界面设计原则:展示为什么、暴露风险、增加认知摩擦、提供对比基线、支持编辑。
有状态 Agent vs 无状态 Web 的结构性矛盾,Checkpoint 的四层状态,异步审批的 12 步流程,状态膨胀治理,滑动自主性的工程实现。
用三层模型对 LangGraph、AutoGen、CrewAI、Semantic Kernel、MS Agent Framework、Claude Code 做 HITL 体检。结论:Checkpoint 是分水岭。
三层模型拆解 HITL:Layer 1 定义人类角色(把关人/协作者/纠正者),Layer 2 定义工程机制,Layer 3 定义基础设施(Checkpoint/滑动自主性)。
Agent 能调工具就有外部副作用,有副作用就需要控制机制。System Prompt 不够——生产环境需要模型侧软控制和框架侧硬控制双层防御。