TikTok SRE工程师：AI Agent本质是分布式系统，重试需幂等键兜底

TikTok站点可靠性工程师Salman Munaf在2026年9月7日的一场演讲中提出，AI Agent本质上是一个分布式系统。他表示，当模型开始调用外部服务时，问题就不再只是模型问题，而会遭遇网络延迟、超时、重复请求等分布式系统领域的经典故障模式。

Munaf以“Agent调用退款接口超时”为例说明，超时不代表失败，而是代表“未知”。Agent遇到失败时的第一反应往往是重试，如果没有请求标识符、幂等键以及状态查询机制，同一笔退款可能被执行两次。因此，他建议在工具层内置幂等性，并提供状态查询接口，让Agent能够确认请求的真实结果。

他还强调，AI Agent是概率性协调器，与传统确定性工作流不同，必须引入确定性控制措施，避免执行可能有问题的操作。同时，Agent循环中的每一步都应被持久化记录，包括动作、检索到的上下文、决策依据等，以便在失败时实现可逆操作和撤销。他认为，当上下文能够影响行动时，它就是状态，而状态会过期并与权威数据冲突，因此应把记忆当作可失效、带来源信息的缓存来处理。

Munaf还建议，Agent应设置最大轮次、预算和并发限制，防止重试风暴；同时应给予范围限定的凭证，避免模型因权限过大而执行危险操作。他强调，日志已不足以支撑故障排查，团队需要追踪Agent每一步看到了什么、据此做了什么以及为什么这样判断。