Systems Design Meditation · Edition 1
智能体不等于系统
为什么 AI 正在成为一个基础设施问题
Edward Calderón
软件架构师
AI 正开始消失于基础设施之中。
不是因为它变得不再重要，而是因为它正走向技术栈的更深处。
几年来，公众讨论的焦点始终是模型。哪个模型推理能力更强？哪个模型上下文更大？哪个模型写出的代码更好？这些问题依然有用，但已经不再足够。
模型给出答案，智能体则能采取行动。一旦系统能够行动，架构就变得与智能同等重要。
分析单元已经改变
语言模型将输入映射为概率性输出。而一个投入实际运营的智能体，会在模型之外构建起记忆、工具、身份、策略、队列、数据库与反馈。它可能会读取一张工单、查询生产遥测数据、修改某项配置并通知客户。每一步都在跨越信任边界。所生成句子的质量只是最终结果的一小部分。
这就是为什么模型不等于系统。模型只是系统中的一个参与者。
如今，有价值的问题在任何运维过云或分布式基础设施的人看来都似曾相识：智能体可以访问什么？它的权限由谁授予？它能修改什么？它维护着哪些状态？行动如何被观测？如果它出了错会怎样？行动能否被撤销？谁来负责？
工具访问权限会将推理错误转化为可能的状态转换。如果一个聊天机器人编造了一套退款政策，那只是输出错了；而如果一个智能体执行了退款、更新了账本并结了案，周围的组织就已经被改变。故障模式不再局限于文本。
为有边界的行动而设计
可靠的智能体基础设施需要多重边界。身份应当与具体工作负载绑定，而不是共享一把 API 密钥。授权应当范围狭窄、时效短暂，并对允许的资源和操作作出明确限定。高影响操作需要审批关卡。每一次工具调用都需要结构化的审计数据：执行者、委托者、输入、策略决策、输出以及产生的最终状态。
可观测性也必须超越普通的请求链路追踪。一条调用链可以告诉我们调用成功了，但业务操作却可能是错误的。我们需要把模型决策关联到工具调用，再把工具调用关联到持久化的实际影响。相关的衡量指标不仅是延迟或 token 用量，而是预期的不变量是否依然成立。
回滚问题同样具体。有些操作可以补偿：一次部署可以回退到先前的版本。另一些则无法真正逆转：邮件已经发出，机密已经泄露，付款已经完成结算。架构应当在智能体接收操作之前就对操作加以分类，而不是等到事故发生之后。
设想一个协助进行基础设施变更的智能体。它可以安全地检查指标并提出补丁。把补丁应用到沙箱，可能需要一份限定范围的凭证。而生产环境则需要策略评估、针对高风险变更的人工审批、渐进式发布、健康检查以及自动停止条件。智能体可以全程参与，而不必成为一个不受约束的管理员。
这种模式与成熟的 DevSecOps 相似，因为其底层问题是人们熟悉的：在系统中推进变更，同时不失去对风险的控制。智能体让交互界面更加灵活，但灵活性并不能免除运维纪律。
能力不等于可靠性
能力很强的模型放进设计拙劣的基础设施，产出的是脆弱的产品；能力稍逊的模型放进出色的架构，却可能产出可靠得多的系统。后一种系统能够约束不确定性、检测故障并实现恢复。
这也解释了为什么不同企业的采用进度会参差不齐。演示优化的是看得见的能力，而生产系统必须应对身份生命周期、数据边界、事件响应、成本控制、合规证据以及依赖降级。这些层面绝非无足轻重的管道工程，它们决定了智能能否被托付工作。
新兴的智能体标准有其价值，但任何协议都替代不了架构。智能体框架无法决定组织的风险容忍度，模型提供商也无法定义哪些状态转换是可逆的。这些决策属于模型周围的系统。
因此，务实的方向不是处处自主，而是渐进式自主：先观察、再建议、在狭窄边界内行动，通过经实践检验的可靠性赢得更广泛的权限。这为团队提供了一条学习路径，而无需假装概率性组件具有确定性。
仅凭智能，创造不出可靠的基础设施。
架构才能。