AI Agent本质是分布式系统：TikTok SRE专家的深度剖析

从文本模型到外部协调器：系统边界的剧变

在早期的LLM应用中，模型仅处理文本输入并输出结果，不执行任何外部动作，错误的输出仅停留在对话层面，影响有限。然而，随着AI Agent的兴起，模型开始与外部系统交互，执行真实操作，系统边界大幅扩展。TikTok的站点可靠性工程师Salman Munaf在近期演讲中指出，这种转变使得AI Agent本质上成为一个分布式系统，必须面对该领域长期存在的各种故障模式。

Salman强调，AI Agent作为概率性协调器，与传统确定性工作流有本质区别。传统服务协调多步操作时，每一步都是预定义的，而Agent的动作空间极大，缺乏确定性控制将导致不可预知的后果。他举例称，Replicate的AI Agent删除生产数据库、Air Canada聊天机器人做出错误退款承诺等事故，根源均在于系统设计缺陷——缺少备份、权限控制或权威数据源。

Agent循环的可靠性挑战：幂等性与补偿机制

典型的Agent循环包括规划、执行、观察、持久化等步骤，每一步都跨越系统边界，面临网络延迟、超时、重复请求等分布式系统经典问题。Salman特别指出，超时并不等同于失败，而是代表未知，Agent的默认重试行为可能引发重复副作用，例如重复退款。

为此，他提出必须将幂等性内置于工具层：引入请求ID与幂等键，使下游系统能识别重复请求；提供状态查询接口，帮助Agent确认操作结果。同时，为应对重试风暴，需设置最大轮次、预算上限和并发限制，并采用指数退避策略。对于不可逆操作，补偿操作须预先定义，如发送错误邮件后的纠正邮件。

状态管理、权限控制与可观测性

Salman强调，Agent的上下文一旦影响行动即成为状态，而状态会过期并与权威数据冲突。因此，Agent的记忆应视为可失效的缓存，当数据库更新时，旧上下文应被作废，以确保决策基于最新信息。他建议明确真相来源，并规范短期与长期记忆的使用。

在权限管理方面，Salman主张采用作用域限定凭证，避免授予无限制的数据库访问权限，并建立工具调用允许列表。人工审批机制需绑定具体动作、时间戳和参数，防止一次批准成为后续高额操作的授权。此外，可观测性要求超越简单日志，需记录Agent每一步的输入、输出、决策依据及审批信息，以便事后追溯和故障分析。

趋势与影响：AI Agent可靠性的未来方向

随着AI Agent在业务中的深度应用，其可靠性已成为企业关注焦点。Salman的见解反映了行业趋势：将分布式系统的最佳实践引入Agent开发，是降低风险的关键。未来，Agent框架可能内置更多可靠性组件，如熔断器、预算管理器和可观测性工具，而模型能力的提升也将减少错误，但确定性控制仍是必要保障。企业需在设计阶段就考虑故障场景，避免“先上线后补救”的被动局面。