正文 · AI 翻译
企业团队正在构建多智能体系统,而早期实现效果不佳时,原因很少出在模型上。多智能体协调是一个分布式系统问题,许多着手解决这一问题的团队尚未形成分布式系统方面的直觉。不同来源的数据一致:约 88% 的 AI 试点项目从未进入生产环境。斯坦福 HAI 证明,当协调开销超过协作收益时,两个模型协作的表现可能比其中任何一个单独工作都差。趋势很明显:团队增加复杂性的速度超过了积累理解的速度。10 个各自具有 95% 可靠性的步骤,端到端可靠性只有 59.9%;20 个步骤则只有 35.8%。这一示例模型假设流程是严格顺序执行、没有重试的链条,但总体趋势依然成立:每一次相互依赖的交接都会使风险相乘。在本文中,你将了解如何判断某个用例是否需要多个智能体、如何选择协调模式,以及如何及早识别代价高昂的反模式。你还将了解节拍时间、安全边界、边缘数据和轮班周期如何影响架构。多智能体协调模式 协调模式按流程由谁控制分为两个层级。在第 1 层级,由你定义路径。在第 2 层级,由模型在运行时选择路径。这种灵活性可以处理无法预先确定步骤的工作,但会带来更高的令牌、延迟和调试成本。实际应用中,默认做法是从第 1 层级开始,只有当任务的子任务需要在执行过程中逐步显现时,才将其移至第 2 层级。第 1 层级:模式(确定性控制流)1.1 顺序流水线:通过线性执行实现的编排模式,其中每个节点的输出都会传给下一个节点(A -> B -> C),支持执行时间可预测的有序处理。在下图中,输入依次流向智能体 A(提取)、智能体 B(转换)和智能体 C(验证),然后生成输出。用户在构建时定义这一顺序,运行时不再作出决定。因此,这种流水线易于调试和测试,成本也可预测。典型适用场景包括文档处理、提取、转换和加载(ETL)流程,以及保修索赔分流。图 1:顺序流水线中,每个智能体的输出都会传给下一个智能体,依次完成提取、转换和验证。1.2 条件工作流:基于逻辑的连接按条件选择下一个节点,使工作流能够分支,并让不同情况进入不同路径。在下图中,用户请求先到智能体 A(编写代码),再到智能体 B(测试代码)。通过/失败检查会将通过的工作发送给智能体 D(部署)。失败的工作会返回智能体 A 重试,最多重试 N 次,之后升级交由人工处理。编排层会强制执行这一上限,例如通过 AWS Step Functions 的迭代次数限制,从而避免循环变成本文后面描述的无界迭代反模式。图 2:条件工作流在升级交由人工处理前,最多重试失败任务 N 次。1.3 条件路由器:分类步骤检查输入,并将其导向适当的处理路径。每个请求只执行一条路径。最适合按意图分派、质量关卡决策、客户咨询路由和异常分流。下图显示,工厂主管的请求由分类器读取,并恰好发送给一名专门负责该领域的智能体。有关零件是否符合规格的问题交给质量智能体,逾期未完成的设备保养交给维护智能体,轮班变更交给排班智能体。这一决定在入口处作出。图 3:条件路由器对每个请求只运行一条路径,并在升级交由人工处理前进行有次数上限的重试。1.4 并行工作流:一项任务拆分为相互独立的子任务,由多个处理程序同时运行,各自处理自己的数据。所有处理程序完成后,汇聚步骤会合并结果;如果某条路径失败,只重试该路径。 最适合多来源分析、批量处理以及可拆分为相互独立部分的工作。在下图中,一个研究协调代理将任务拆解,并分派给 3 个并行运行的专业代理:财务数据代理、地缘政治代理和物流代理,每个代理分析各自的来源。一个汇总步骤等待这 3 个代理全部完成,然后综合结果、解决冲突,并对发现进行排序。延迟取决于耗时最长的单个代理,而不是 3 个代理耗时之和。图 4:并行分派给专业代理,随后通过汇总步骤综合结果并排序。第 2 层:自主模式(由 LLM 决定控制流程)。在自主模式中,控制流程由 AI 模型本身在运行时决定,而非由开发人员预先定义。代理读取任务状态,判断需要做什么,并通过共享上下文进行协调,而不是遵循固定路径;这些模式覆盖了从结构化编排到完全自发涌现行为的范围。2.1 基于计划的编排。在基于计划的编排中,单个协调代理充当项目经理。协调代理维护一份明确列出任务分配和依赖关系的计划,掌握全部上下文,而每个工作代理只接收自己负责的部分;它根据当前计划动态分配工作,并集中监控进度。关键设计选择是让工作代理保持无状态且相互独立。如果其中一个失败,不会影响其他代理。协调代理只重试失败的工作代理,而不重跑整个工作流。下图展示规划代理如何将任务拆解为明确的计划,并将每一步分派给一个工作代理。每一步都交给一个专门的工作代理(研究代理、分析代理或报告代理),该代理只看到分配给自己的部分。图 5:基于计划的编排,由规划代理将每一步分配给无状态的工作代理。2.2 移交模式。代理在有限的局部知识范围内运作,并通过点对点委派进行协调。每个代理根据任务以及自己所知道的其他代理,在本地决定何时以及向谁移交控制权。控制权随状态一同传递:每次移交都携带经过验证的任务状态、支持该状态的证据以及任何尚未解决的问题,使接收代理能够继续工作,而不是重新解读一份摘要。仅通过对话传递的内容不构成移交。在下图中,客户服务代理连同其上下文一起将控制权移交给技术支持代理或账单代理,而技术支持代理还可以进一步移交给高级工程师。每个代理只知道自己可以向其移交的一小组同级代理。图 6:通过局部委派,在同级代理之间传递经过验证的状态的移交模式。2.3 对话驱动模式。在对话驱动模式(也称为群聊模式)中,所有代理都参与共享对话,编排通过轮流发言自然形成,而不是依靠明确的计划或结构化移交。这类似于人类团队的协作方式:每个人都能看到讨论,并在适当时参与。下图中,一个代理选择机制决定轮到谁,代理 A、B 和 C 各自向同一场共享对话添加内容,其中每一轮都包含一条消息和一次工具调用。选择机制规定发言顺序,而状态隐含在对话历史中。图 7:对话驱动模式,通过轮流发言选择下一个代理,状态保存在对话中。控制流程特征:可见性:广播,所有代理都能看到共享对话中的所有消息。决策:根据对话上下文选择下一位发言者,而不是按照预定计划。状态管理:隐含在对话历史中。轮流发言:由选择机制(轮询、AI 驱动)决定。轮询。代理按照固定、重复的顺序轮流行动,直到满足终止条件,因此流程可预测。 由 AI 驱动。模型根据对话上下文选择下一位发言者,而不是按固定顺序选择。2.4 辩论/共识 多个智能体独立评估同一输入,在结论不一致时,通过多数决、裁决智能体或上报机制协调结论。与对话驱动模式不同,智能体在确定立场前不会看到彼此的推理;正因如此,分歧提供了有价值的信息,而不会因相互影响而趋同。谨慎使用。辩论是这里成本最高的模式,在感知类任务中,它增加的是延迟,而不是准确率(参见下文反模式 3 中的质量检测案例)。将其留给高风险、低频次的决策:在这些决策中,犯错的代价高于审议的代价。混合方法 在实践中,大多数生产系统会根据任务拆解组合使用几种模式:对可预测、已充分理解的组件使用工作流模式。在灵活性和适应性至关重要的地方应用自主模式。在所有编排类型中一致地实施任务管理模式(终止、委派)。设计分层组合,使复杂智能体在内部不同层级使用不同模式。核心原则是让模式与任务匹配。应根据每项任务的固有特征和系统的可靠性要求选择编排方法,而不是强迫所有任务采用同一种模式。消耗预算的反模式 以下 5 种反模式在设计时看起来都合理,但之后都会表现为令牌成本膨胀、错过节拍时间窗口,或决策悄然偏离工厂现场的实际情况。1. 万能智能体 一个智能体通过一条提示词和 15 个或更多工具,包揽整体设备效率(OEE)分析、可编程逻辑控制器(PLC)诊断和维护工作。随着工具数量增加,工具选择能力下降,故障也变得难以归因。解决办法:使用每个最多配备 5 个工具、职责范围明确的智能体,例如 OEE 分析员、故障诊断员和维护方案起草员。2. 无界迭代 智能体在没有硬性停止条件的情况下反复“再试一次”。一个由 4 个智能体组成的系统,在完成单次重试之前就可能消耗多得多的令牌,而没有任何一次调用会触发警报。重试会放大协调失误,而不是解决失误。解决办法:在代码中设置硬性迭代次数上限、每个智能体的令牌上限,以及与自动停止机制相连的预算警报。由基础设施执行限制。模型不会自行停止。3. 自然语言契约 智能体之间传递没有模式定义的自由文本。每传递一次,解释就变得更加确定:“可能表明磨损”变成“已确认磨损”,再变成维护工单。偏差发生在智能体之间,而那里最难追踪。4. 过早采用多智能体 本可由一个配备多组工具的智能体完成的任务,却采用了多智能体。每增加一个智能体都会带来非线性的协调成本,而收益在约 4 个智能体时趋于平缓。大多数“专家”只是同一个模型换了不同装扮。解决办法:至少需要 2 个不同的模型、不同的工具访问权限、并发执行,以及真正的相互依赖。少于 2 个时,一个带有操作组的智能体就能完成。检验方法:一个智能体能否通过切换工具处理各个阶段?如果能,这就不是一个多智能体问题。5. 未经把关的客户接触 智能体在没有审批步骤的情况下触发现实世界的操作(电子邮件、上门服务、机器参数调整)。幻觉进入物理世界,不可逆的操作相互叠加,责任风险从退款升级为产品责任。解决办法:纵深防御:建议 → Amazon Bedrock Guardrails → 模式验证 → 业务规则 → 人工审批 → 执行。智能体输出每到达客户或安全系统,都会跨越一道信任边界。选择架构 考虑上述模式和反模式后,架构选择可以归结为依次回答几个简短的问题。任务是否需要执行文本生成以外的操作? 以直接调用模型为基准,只有经过衡量、确有理由时才加入编排。总结文档或根据规格生成代码,很少能提供这样的理由。解决路径是否事先已知?如果你能写出各步骤及其顺序,那么根本无需决定“要用多少个智能体”。真正的选择更简单:使用一个调用工具的智能体,或使用 Tier 1 工作流。工作是否需要真正不同的专业能力?具有既定交接方式的不同领域,可以采用专门的智能体。单一领域的工作应交给一个智能体,无论它需要多少工具。解决方案是否只能通过探索逐步形成?如果行动顺序已知,并且可以按执行与验证的循环运行,那么即使智能体会动态规划步骤,这项工作也属于单智能体模式。只有当子任务本身是在工作过程中发现的,Tier 2 增加的成本、延迟和调试负担才值得承担。以下决策树将这 4 个问题转化为一条可以自上而下遵循的路径。图 8:从单次模型调用到 Tier 2 多智能体模式,选择最简单架构的决策树。决策树首先询问任务是否需要文本生成之外的行动。如果不需要,简单的模型调用就足够了。如果需要,则进一步询问解决方案是否明确,能否表示为工作流。在解决方案已知的分支中,受益于专业能力分工或领域分离的工作,采用 Tier 1 多智能体工作流(流水线、扇出或路由器)。其他工作都采用配备工具和操作组的单个智能体。在解决方案未知的分支中,只有涉及探索或重大副作用的任务才采用 Tier 2 自主多智能体模式。其余任务仍由单个智能体完成。指导原则是选择能够满足要求的最简单架构。下图从 4 个方面比较这些模式:各自适用的时机、智能体之间的控制流、结果的确定性,以及构建和运行成本。构建成本是相对量级,并非估算值。图 9:按用例、控制流、确定性和相对构建成本比较各模式。Tier 1 模式以较低至中等的构建成本实现较高的确定性。Tier 2 模式将路径选择更多地交给模型,而基于规划的编排构建成本最高。如果在运行前就能在白板上画出控制流,应从 Tier 1 开始。应用:将模式对应到制造业用例。用例|模式|理由。班次交接总结|顺序流水线|线性流程:原始日志 → 摘要 → 报告。多工位根因分析|基于规划的编排器|动态流程:在分析过程中发现子任务。实时质量关卡|条件路由器 + 边缘智能体|周期内:本地模型作出决定;智能体推理不在关键路径上。预测性维护排程|并行扇出/扇入|各资产类别使用独立模型。工程变更单影响分析|辩论/共识|利害重大:有理由进行对抗性审查。供应商沟通文稿起草|顺序流程 + 人工关卡|不得自动发送(参见“未经把关的客户联系”)。跨工厂优化|基于规划的编排器|多来源:动态查询;由求解器完成分配。制造业视角:改变权衡方式的 4 项约束。制造业并非普通的企业 IT 环境,而 4 项约束使这种成本计算容不得宽松处理。约束 1:生产线延迟 = 直接收入损失。汽车车身车间通常以每小时 60 件的速度运行,机器人在这里将车身焊接在一起。其超过 40 个工位中的每个工位,在生产线前进前都有 60 秒的节拍时间。位于工位生产周期关键路径上的推理延迟会占用这 60 秒,而瓶颈工位的延误会拖慢整条生产线。即使吞吐量仅下降 2%,也可能对年度收入造成重大影响。架构启示:按 p99 延迟制定预算,而不是按平均延迟。 真正阻止产线运行的是长尾情况。为每个智能体提供耗时不到 1 秒的确定性回退方案,并使其与风险相匹配:建议性/质量标记:让零件带标记通过,留待产线末端复核。安全关键事项:采取遏制措施或确定性停机,而不是继续运行。部署前须逐工位确定这种对应关系。约束 2:安全具有现实的物理后果。聊天机器人产生幻觉会造成尴尬。焊接参数若由幻觉产生,则会造成结构缺陷,这些缺陷可能在碰撞测试或现场故障中显现,并可能导致安全召回。两种故障模式反复出现:OT/IT 边界状态不同步:智能体从制造执行系统(MES)读到工位 12 正在加工零件 #A,但手动 PLC 覆盖操作已将其切换为零件 #B,于是它针对错误的零件调整参数。安全边界幻觉:维护智能体从头推理上锁挂牌要求,在相邻工位 6 仍在运行时宣布工位 7 可以进入,从而破坏联锁区域。架构上的含义:边界:保持确定性核心不变,包括 PLC、监控与数据采集(SCADA)系统和 MES,并在其外围设置建议层。智能体负责观察、分析和提出建议,不执行实际控制操作。安全约束作为确定性防护规则保存在智能体查询的外部服务中,而不是交由智能体推理。绝不能将其嵌入提示词,以免智能体通过辩论将其排除。验证与批准:建议须通过模式验证和物理仿真;执行实际控制操作前,应立即对照 OT 事实来源核验,绝不能依据缓存超过一个周期的 OT 状态。随后按影响范围对应的级别批准:级别 0:智能体自主解决。级别 1:操作员一键确认。级别 2:工程师根据所呈现的分析作出决定。级别 3:管理层评估停线建议。只有完成这些步骤,经过验证的命令接口才会将获准命令传递给确定性控制系统。大语言模型(LLM)提出建议;物理引擎和人工操作员作出最终决定。约束 3:数据留在边缘。单台冲压机每天产生超过 50 GB 的传感器数据,其价值在毫秒级时间内衰减。将数据传到云端的带宽成本高于计算成本,而等云端给出答复时,冲压机早已进入下一步。架构上的含义:混合式边缘与云端架构是务实的默认选择,约束 2 中的边界在边缘侧同样适用。边缘侧(AWS IoT Greengrass):在数据源处进行快于生产节拍的异常检测、阈值监测,并发出停止或继续的信号:边缘智能体提出建议,PLC 执行操作。云端:承担边缘侧无法完成的工作,包括跨班次分析、跨工厂趋势关联,以及利用设备群数据重新训练模型。边缘侧只提炼并传输重要信息。约束 4:与班次对齐的智能体生命周期。无限增长的上下文会使智能体偏离当前实际情况,因为过时的观测结果会挤占当前信息。完全重置则会失去班次之间的连续性。制造业已通过结构化交接班为员工解决了这个问题,智能体也需要同样的纪律。架构上的含义:将智能体记忆限定在班次周期内。初始化:载入班次背景,包括班组人员名单、生产目标和上一班的交接信息。积累:工作记忆仅限于当前班次时间窗口。交接:在班次结束时生成摘要,列出未解决的问题、已标记的异常和建议,供下一班组使用;这既仿照人工交接惯例,又不会让上下文无限增长。在 AWS 上构建。以下托管服务对应本文前面提出的问题。每一行列出的是机制,而不仅仅是服务。需求 服务 机制 运行时 AgentCore runtime(Amazon Bedrock AgentCore 的一项功能) 智能体的运行位置;其控制流程由预先设定的逻辑或模型决定。可接入 Strands、LangGraph 或 CrewAI。 班次限定的记忆 AgentCore Memory 是 Amazon Bedrock AgentCore 的一项功能,提供托管的短期和长期上下文,因此约束 4 中按班次划定范围的记忆可以通过配置实现,而无须自行构建状态处理机制。类型化交接 AgentCore Gateway 是 Amazon Bedrock AgentCore 的一项功能,可将 API 和 AWS Lambda 函数转换为具有经过验证的模式的模型上下文协议(MCP)工具,使交接传递类型化字段,而非自由文本。智能体权限 AgentCore Identity 是 Amazon Bedrock AgentCore 的一项功能,为每个智能体提供唯一且可验证的身份,并实施细粒度访问控制。它是决定哪个智能体能够访问哪个系统、以及代表谁访问的执行点。智能体间追踪 AgentCore Observability 是 Amazon Bedrock AgentCore 的一项功能,通过 Amazon CloudWatch Transaction Search 和 AWS Distro for Open Telemetry(ADOT),提供跨运行时、记忆、网关和工具的跨度与追踪。交接是多智能体系统中最难观察的环节,也是未定义类型的契约会悄然失效的地方。人工审批界面 AWS Quick 是各级升级审批流程的落点。AWS Quick Automate 运行审批工作流,支持在 Slack 中一键审批,其操作连接器还可以调用 Amazon Bedrock AgentCore 智能体。分层模型选择 Amazon Bedrock 为各模型家族提供统一的 API,因此可以通过配置实现成本分层:路由器的分类任务使用小型模型,协调器的综合任务使用能力更强的模型。结论 多智能体系统改变了汽车制造商大规模协调智能能力的方式,但前提是建立在正确的基础之上。这里介绍的模式和反模式来自实际部署;在这些部署中,糟糕的架构表现为失控的令牌成本、违反生产节拍要求,最严重时还会带来人身安全风险。工厂规模下的成本现实不容宽松,因为令牌用量会随着每个智能体、机器人和班次而增长。分层模型选择、上下文压缩和边缘与云端的分工,是以一小部分成本实现同等价值的主要手段。这里的建议是从第 1 层模式入手,验证价值后再扩展。大多数制造业用例,例如班次交接摘要、质量关口决策和预测性维护,都可以通过确定性工作流得到良好支持。自主编排应留给真正开放式的问题,即动态发现子任务足以证明额外成本、延迟和调试复杂性合理的问题。关于作者 Kamlesh Mariwala Kamlesh 是 AWS 的高级 GenAI ML 解决方案架构师,专注于汽车和制造业。他帮助客户设计可扩展、安全且具有成本效益的架构,运用 AWS 的智能体 AI 和机器学习解决复杂的业务问题,并缩短实现价值所需的时间。Malini Sethi Malini 是 Amazon Web Services(AWS)的解决方案架构师,专注于汽车和制造业。她与大型汽车和工业客户合作,设计和实施云原生解决方案,以加快其采用 AI、AWS 生成式 AI 的数字化转型。在担任现职之前,她曾任 AWS ProServe 顾问,与客户密切合作,将复杂的技术挑战转化为可扩展、可投入生产的系统。她曾在 MIT 学习机器学习。Deepesh Koppunuru Deepesh 是 AWS 的高级 GenAI ML 解决方案架构师,与大型企业客户合作,通过 AWS 生成式 AI 服务释放创新潜力。Deepesh 热衷于展示 AI 的变革力量,帮助组织重新构想业务流程,并取得能够产生实际影响的可衡量成果。Sandy Hsieh Sandy 是 AWS 全球专家组织的高级数据与 AI 专家,支持汽车和制造业客户采用生成式 AI、智能体 AI 和物理 AI 解决方案。 Sandy 在供应链、车辆规划和信息娱乐系统领域拥有超过 10 年的全球汽车行业经验。她拥有卡内基梅隆大学机械工程硕士学位。