跳到主要内容

如何构建常驻型 Agent(always-on agents)

William Hu

原文:Building always-on agents,Anthropic,作者 William Hu,发布于 2026-11-13。

过去几个月里,常驻型 Agent(always-on agents)又热了起来。

常驻型 Agent 是有状态且主动的:它们跨会话管理上下文,并且在没有直接监督的情况下采取行动。底层跑的还是与其他 Agent 一样的核心循环。差别在外围架构——它由若干原语构成,用来控制 Agent 什么时候被唤醒、哪些东西在多次运行之间延续、以及它的工作成果如何送到用户手里。

这波回潮很大程度上是因为模型能力近期的进步,让常驻型 Agent 变得更容易跑起来。第一,最新模型的判断力更好:它们更可靠地理解用户意图,也更清楚什么时候该来确认一下。第二,智能正在变便宜,而长程任务受益最多。举例来说,在一个长程编程基准上,Opus 5.5 每解决一个任务的成本比 Opus 5 低 78%,而在典型工作负载上这个数字是低 40%。

客户开始问我们,怎么把这类体验集成进他们自己的产品。有些公司想把现有 Agent 做得更主动,有些则想从零开始搭建。

这篇文章拆解常驻型 Agent 背后的原语,并说明它们如何组合在一起。

常驻型 Agent 背后的循环

常驻型 Agent 其实并不是字面意义上的"一直在跑"。这只是对用户体验的描述。

实际上,Agent 大部分时间在睡觉,周期性醒来干活。每一段工作叫做一次 run(运行):Agent 收到一个事件,完成任务,然后保存这次发生的事情。一次 run 在一个 session(会话) 里工作,会话是消息与工具调用的记录。run 结束后,Agent 回去睡觉,这个循环无限重复。

常驻型 Agent 时间线的动图:大段睡眠、不消耗 token,中间被短暂的 run 打断。每次 run 有四个步骤:事件到达、会话开始、Agent 循环运行、run 把状态写回,在多次 run 之间延续。

核心原语

常驻型 Agent 的外围架构有五个核心原语:事件收件箱、定时器、记忆、权限和发件箱。下面逐个来看。

事件收件箱

大多数 AI Agent 只在用户发消息时才运行。相比之下,常驻型 Agent 可以被多种类型的事件触发,包括 webhook、定时任务和后台作业。

一个很诱人的做法是让每个事件源直接调用 Agent,但这有几种失败模式。比如两个事件同时到达会启动两条互相竞争的 run,而一次崩溃可能直接把一个事件弄丢。

这就是事件收件箱的用处。各个来源不再直接调用 Agent,而是把事件送进一个收件箱,由 worker 取走。

最简单的版本有三个组件:

  • 一份持久化的事件列表,通常是一张数据库表;
  • 一个 handler,通常是一个 HTTP 端点,负责把事件写进列表;
  • 一个 worker,通常是一个后台服务,负责从列表里读取。

收件箱应当跟踪每个事件的状态,事件可以按来源提供的唯一标识去重。关系型数据库很适合做收件箱,每个事件作为新的一行追加。我们建议先做到每个用户一个收件箱,如果需要更高的并行度,可以再拆得更细。

事件收件箱示意图。handler(HTTP 端点)把每个事件写入收件箱这张数据库表,表里跟踪状态并丢弃重复项,同时唤醒 worker。worker 读取待处理的事件,启动 run,等待 run 完成,再把事件标记为已处理。

新事件进来时,handler 把它写入收件箱并唤醒 worker。worker 读取所有待处理的事件并启动一次 run。延续先前工作的事件(比如用户的回复)会恢复一个已有的会话,其他事件则开启新会话。

接下来,worker 把事件交给 Agent 循环,等待 run 结束,再把对应事件标记为已完成。实现细节容易变得棘手,这里给出几条最佳实践:

  • handler 应当快速确认事件。有些来源(例如 webhook 提供方)会把响应慢当成失败。handler 仍然可以做轻量检查,但更深的校验(例如检查 prompt injection)应当放到 run 里做。
  • 收件箱应当是唯一事实来源。worker 被唤醒时,应当先从收件箱里拉取最新事件。这样即使 worker 在 run 中途挂掉,新起的 worker 也能接到同一个事件并重试。
  • 一个收件箱同一时间只应有一个活跃 worker。这能避免两次 run 重复工作或互相覆盖。当一个 run 进行中有新事件到来时,你可以把它推给下一次 run、合并进当前 run,或者中断并重启。
  • worker 应当把待处理事件批量合并。举例来说,如果用户连发了几条消息,worker 可以把它们合并成一次 run,Agent 只需要回复一次。

定时器

定时器与事件收件箱一起,让常驻型 Agent 具备主动性。定时器一般分两类:跟进(follow-up)和排程(schedule)。跟进是 Agent 给自己设的截止时间,比如过一阵回来检查某个回复。排程则是按已知节奏重复发生的任务,比如每日简报。

定时器活在自己的持久化存储里,通常是另一张数据库表,与收件箱分开。收件箱只应存放已经可以处理的事件。跟进和排程可以共用相似的表结构,但排程还需要跟踪它的重复规则。

定时器示意图。一次 run 把定时器写入数据库表,可能是 Agent 设置的跟进,也可能是用户设置的排程。调度器找出到期项,向事件收件箱写入一个事件,从而启动下一次 run。

定时器不会自己发起 run。真正触发的是一个调度器(通常也是后台服务),它按固定间隔轮询存储,把到期的东西触发出去。每一轮,调度器会:

  1. 扫描存储,找出到期的定时器。
  2. 按类别更新每个定时器。
    1. 跟进应当被标记为完成。
    2. 排程应当把到期时间更新为下一次发生的时间。
  3. 向收件箱写入一个事件,并唤醒 worker。

调度器可以自己写服务,也可以用一套持久化执行引擎。

记忆

常驻型 Agent 工作在许多互不相连的 run 之间,靠记忆维持连续性。

与事件收件箱和定时器类似,记忆也应当有自己独立的存储。在我们的产品里,比如 Claude Code 的自动记忆和 Messages API 的记忆工具,实现方式是一个文件目录。对常驻型 Agent 来说,这些目录应当映射到持久化存储,通常是数据库或对象存储。这样记忆能比 worker 活得更久。

一条经验法则:记忆只应存 Agent 无法再次查到的东西。如果某个信息本来就存在于另一个系统里(比如 issue tracker),那就存一个指针就好。下面是常驻型 Agent 应当存取的几类记忆:

  • 用户指令: 用户关于 Agent 行为的任何指令都应保存在单独的文件里,并在每次 run 开始时加载。用户不会一直在旁边指挥 Agent,所以这些指令必须跨 run 延续。
  • 用户笔记: Agent 应当保存它了解到的关于用户的信息,比如用户的角色、偏好,或者用户给出过的纠正。可以先用一个文件,笔记变多后再拆成多个小文件。拆成多文件时,每次 run 开始只加载一个索引,需要更多细节时再让 Agent 把具体文件拉进上下文。
  • 过去的消息: Agent 应当跟踪自己已经告诉过用户什么,避免重复。这可以存在一个每次 run 开始都会加载的文件里,也可以由 worker 加载 Agent 与用户最近几条消息。
  • 任务进度: 对每个进行中的任务,Agent 应当维护一个进度文件,记录已经做了什么、还剩什么。任何新的 run 都能读这个文件,从前一次 run 停下的地方接着干。与用户笔记类似,每次 run 开始只加载索引,需要更多细节时再让 Agent 拉取具体文件。

下图展示了一种示例配置。

示例记忆配置示意图,形式为文件目录。每次 run 开始时加载 instructions.md、index.md 和 reported.md,而 notes/ 与 progress/ 文件夹在需要时才读取。Agent 在 run 过程中写入记忆。

以上说的都是 run 期间保存的记忆。你还可以加上 dreaming(做梦),它回顾过去的会话以整理记忆。dreaming 可以替换过时的条目,并找出只有跨越多次 run 才显现的规律。如果想深入了解,我们的关于 Agent 记忆的文章有更详细的讨论。

上下文窗口内部

在开始干活之前,Agent 会加载系统提示、工具定义和记忆文件。这部分初始上下文"开销"会出现在每一次 run 里,所以我们建议保持精简,并用 prompt caching 降低成本。

新会话一开始只有这部分上下文开销,以及触发本次 run 的事件。而一个已有会话则会把它之前几次 run 的消息和工具调用都带回来。

如果会话变得太长,你可以压缩较早的消息,或者开一个新会话。两种做法都会丢失细节,所以任何需要长期保留的内容,都应在过程中写入记忆。

上下文占用随时间变化的动图。系统提示、工具和记忆构成一条固定的带子,出现在每次 run 中。已有会话会把整份记录带回来并持续增长,直到压缩把较早的记录变成摘要。

权限

权限是常驻型 Agent 风险最高的地方。一次 run 持有用户的访问权限,而且按设计是在无人看管下运行的。对每次工具调用,Agent 都要判断是自己继续执行、拦下来,还是等待批准。

权限涉及的组件与其他 Agent 是同一套:

  • 凭据存储: 常驻型 Agent 往往需要密码或访问令牌这类敏感的用户凭据才能派上用场。推荐做法是在 Agent 环境之外放一个代理,由它给外发请求加上凭据。Agent 发出的请求不带凭据,代理在转发前注入真实凭据。
  • 自动模式(Auto mode): 常驻型 Agent 应当能在没有持续用户输入的情况下工作。我们在 Claude Code 里已经用自动模式处理过这类问题的一个版本。自动模式用分类器审查高风险动作,把被判定为危险的拦下来,让 Claude 去找更安全的做法。不过对最重要的决策,仍然需要用户审查。
  • 延迟工具调用: 在 Claude Code 里,hook 可以把一次工具调用延迟处理,等待用户提供更多输入。同样的模式适用于常驻型 Agent——它们在采取某些操作前可能需要澄清或批准。当一次调用被延迟时,run 结束,会话在调用中途被保存。请求会展示给用户(例如通过用 MCP Apps 构建的交互卡片),用户的回答会作为事件回到收件箱。这个事件启动新的 run,带着用户的输入恢复保存的会话。在延迟调用等待回复期间,worker 可以去处理其他事件,所以 Agent 不会被堵住。

发件箱

对大多数 AI Agent 来说,回复是在生成过程中流式传给用户的,用户能一路看着 Claude 推理、调用工具、写出答案。

常驻型 Agent 则不同,它们大部分工作发生在后台。用户拿到的是结果和少量细节,而不是完整的逐步过程。

发件箱示意图。run 的结束方式有三种:无话可说、调用 send 工具、或者用延迟工具调用向用户提问。消息进入发件箱这张数据库表,由 dispatcher 投递给用户。延迟请求可以走发件箱,也可以直接展示在你自己的界面里。

一次 run 的结束方式有三种:

  • Agent 向发件箱发送一条消息,
  • Agent 判断不需要发送任何内容,或者
  • Agent 用一次延迟工具调用请求权限或补充输入。

大多数常驻型 Agent 用一个把消息直接投递给用户的"send"工具就能应付。只有当你想要控制 Agent 消息的节奏,或者希望 Agent 能从错误中恢复时,才需要一个正式的发件箱。

发件箱是一张独立的外发消息表,与事件收件箱类似。此外还有一个 dispatcher(通常是后台服务),对应 worker 的角色。dispatcher 读取待发消息,决定投递哪些,然后把它们发给用户。延迟工具调用产生的请求,既可以走发件箱,也可以直接在界面里展示。

除了投递,调好 Agent 发消息的数量也很重要。发得太多会变得吵闹,发得太少则会漏掉用户需要知道的事。我们建议构建评测来找到合适的平衡。实践中,让 Agent 一开始安静些,然后逐步赢得用户更多注意力,效果更好。

各部分如何拼在一起

下面是五个原语如何协同:

五个原语如何拼在一起的动图。定时器和事件收件箱启动 run,run 在会话内借助记忆和权限工作,发件箱把消息投递给用户,用户的回答又作为事件回到收件箱。

每一次 run 都始于收件箱里的一个事件,无论它来自用户消息、webhook 还是定时器。worker 取到事件后,启动一次 run,并在新会话或已有会话中唤醒 Agent。Agent 读取记忆获得基线,在权限范围内采取行动,然后把它学到的东西更新回记忆。run 结束后,Agent 向发件箱推入一行记录,由 dispatcher 把消息投递给用户。

这些部分共同构成一个循环。一次 run 可以设定时器,稍后再次唤醒 Agent;用户回复消息时,回答又会作为事件回到收件箱。每次 run 都很短暂,但这个循环会一直转下去,正是这一点让 Agent 感觉像是"一直在"。

致谢

作者 William Hu。特别感谢 Rodrigo Olivares 和 Michael Segner 的贡献。

评论