自主智能体

自主性是一条谱系

自主不是有或无，而是范围问题：能自己决定调用哪些工具、失败后是否重试、什么时候停止、要不要改变计划。范围越宽，越接近“完全自主”。

工程上常见的做法是给自主设边界：限定可用工具、设定步数与花费上限、把高风险操作（付款、删除、发布）单独拎出来要人确认。

与人在回路的关系

“自主智能体”和“人在回路（human-in-the-loop）”是同一条轴的两端。真实系统几乎总在中间：日常步骤自主执行，少数关键节点插入人工审批。描述一个系统时，说清楚“哪些事它能自己做主”比贴“自主 / 非自主”标签更有意义。

常见误解

• 自主不代表不可控：良好的自主智能体恰恰依赖明确的权限和停止条件。
• 自主度高 ≠ 成功率高；长任务里自主度越高，早期的小错越容易被放大。

相关术语

参考来源

1. Russell & Norvig, AIMA (4th ed.), §2.2 — autonomy
2. Anthropic — Building effective agents (2024)