子专栏:Agent 运行原理
八个机制,一条从工具调用到系统副作用的完整链路
归属:Agent 工程
-
执行循环:单次生成如何变成多轮决策
·Agent·LLM·原理我让它查一下明天的天气。它回了一句话:上海明天小雨,12 到 16 度。
-
工具调用:意图、schema 与副作用
·Agent·LLM·工具我问它: 这个文件里还有几处 TODO?
-
上下文:工作记忆的预算与衰减
·Agent·LLM·上下文一段对话聊到第三十轮,它开始忘记你前面说过的要求。你以为是模型变笨了。
-
观察反馈:执行结果如何回传
·Agent·LLM·可靠性它执行了一条检查命令,看到输出是空的,于是判断 文件里没有遗留的调试代码 ,继续往下走。
-
控制权:模型提议与宿主裁决
·Agent·LLM·权限同一句 帮我读一下通知 ,在不同状态下会有三种结局:什么都不问直接读、弹一个对话框、直接拒绝并让你去设置里开权限。
-
失败处理:错误回灌与重试边界
·Agent·LLM·可靠性它连续七次调用同一个工具,参数一个字没变。界面上是七个一模一样的折叠块,每个都说 执行成功 ,每个返回的内容也完全相同。
-
任务分片:上下文隔离的代价
·Agent·LLM·架构它读了第一个的文档,做了笔记;读第二个,又做了笔记;读第三个的时候,它开始重复第一个库里的结论——不是记错了,是前面那部分已经被挤出窗口了。
-
失效模式:能力边界与防御
·Agent·LLM·边界你打开文件,什么都没变。这时候有三种可能:它没改、改错了地方、或者改了但没成功。在不知道是哪一种之前,你没法让它修。
-
记忆机制:从上下文到持久化
·Agent·LLM·记忆上周跟它说过,这个项目用 Kotlin,不要写 Java。
-
沙箱:工具在哪里执行
·Agent·LLM·沙箱在里面执行 ping ,它不会回 权限不足 ,也不会回 网络不可达 。
-
会话保持:中断、恢复与状态一致
·Agent·LLM·可靠性聊到一半切出去接了个电话,回来点开 App,界面还在,最后一条消息停在 正在执行命令 。
-
缓存利用率:前缀复用与失效代价
·Agent·LLM·性能一次长对话跑到第五轮,账单上的输入是八万 token。
-
流式输出:首字延迟与中断处理
·Agent·LLM·交互点发送之后,界面上先出现一行 正在思考 。三秒后,字开始一个一个往外蹦。
-
模型路由:组、优先级与降级
·Agent·LLM·架构同一个会话,上午回答得细致,下午变得简短,连标点都少了。
-
多模态:图片如何进入上下文
·Agent·LLM·多模态截了一张报错对话框的图,两兆,问她 这是什么意思 。