崔亮 Cui Liang|AI Agent 工程博客
|
En
Series
Books
Notes
Archives
About
Agent Safety
[HITL 1/5] Agent 为什么需要方向盘
Agent 能调工具就有外部副作用,有副作用就需要控制机制。System Prompt 不够——生产环境需要模型侧软控制和框架侧硬控制双层防御。