Article · AI translation
本文由 AWS 的 Mariah Miller 和 LoanPro 的 Colin Terry 共同撰写。你是否想过,致电银行寻求支持时,电话另一端的人会经历什么?借款人致电贷款机构时,接听电话的客服人员必须从数十个字段、交易历史和工作流程队列中调取账户数据,先了解情况,才能帮助借款人。与此同时,通话时间仍在增加。手动汇集这些背景信息意味着通话更长、服务质量参差不齐,客服人员也更容易感到沮丧。基于代理式 AI 的贷款服务助手改变了这种情况。现代贷款机构的操作系统 LoanPro 着手改变这一现状。LoanPro 与 AWS 合作伙伴 AllCloud 及 AWS 生成式 AI 创新中心合作,构建了一款多代理 AI 助手,让贷款服务客服人员能够立即获取整合后的借款人情况和可执行的下一步建议。据 AllCloud 发布的案例研究,早期结果显示,客户通话时间最多缩短了 15%。本文将介绍业务挑战、基于 Amazon Bedrock 和 Amazon Bedrock AgentCore 构建的代理式 AI 架构,以及 LoanPro 取得的成果。Amazon Bedrock 是一项完全托管的服务,通过单一 API 提供来自领先 AI 公司的多种高性能基础模型,并提供构建兼顾安全、隐私和负责任 AI 的生成式 AI 应用所需的功能。关于 LoanPro:LoanPro 是一个现代化、以 API 为先的贷款和信贷平台,可自动处理从贷款发放到结清的整个生命周期。LoanPro 成立于 2015 年,是各类贷款机构的记录系统,服务对象包括金融科技公司、银行、信用合作社,以及将贷款作为增值服务提供的企业。据 LoanPro 称,该平台服务超过 450 家贷款机构,其平台管理的贷款覆盖约 31% 的美国家庭。该平台为整个金融服务行业提供企业级规模的贷款管理能力。LoanPro 本身不是贷款机构,而是贷款机构所依托的操作系统。这一区别很重要,因为 LoanPro 的 AI 战略旨在惠及整个平台上它所服务的机构,而非单一贷款业务。挑战:LoanPro 的核心用户群体之一是贷款服务客服人员,他们负责管理借款人账户、接听来电、处理付款和解决问题。在与客户实时交流时,客服人员可能需要查看:借款人完整的付款历史,包括逾期付款和被退回的付款;现行贷款条款、费用和当前余额;以往的互动记录和未结的支持工单;以及付款计划、延期或升级处理等可用的工作流程操作。在 AI 助手推出之前,客服人员需要手动浏览这些信息,在多个页面和标签页之间切换,才能拼凑出完整情况。经验较少的客服人员需要更长时间,处理结果也会因接听电话的人而异。LoanPro 需要一种解决方案,能够:立即将账户数据整合成条理清晰的摘要;根据账户情况建议合适的下一步操作;让不同经验水平的客服人员提供更一致的服务质量。解决方案概览:LoanPro 与 AWS 生成式 AI 创新中心及 AllCloud 合作,使用 Amazon Bedrock 设计并构建了一款多代理 AI 助手。该助手在 Amazon Bedrock 上使用 Anthropic 的 Claude Sonnet 5.5、Claude Haiku 5.5 和 Claude Opus 5.5(参见 Amazon Bedrock 中的“模型概览”)。模型的可用性因 AWS 区域而异。有关各区域的模型可用性,请参阅 Amazon Bedrock 中的“按模型查看区域可用性”。该助手使用 Amazon Bedrock AgentCore 进行编排;这是一个可使用任何框架或模型大规模构建、连接和优化代理的平台。代理逻辑使用 Strands Agents SDK 构建;这是一个支持工具调用的开源 AI 代理构建框架。系统通过一个编排代理协调各个专业代理,将每项请求路由至合适的专业代理,使每个代理专注于一项任务,并能够独立接受评估和改进。团队选择这些托管服务,而不是自行构建代理运行环境和模型接入能力。Amazon Bedrock 通过单一 API 提供领先的基础模型,让团队无需管理不同的端点,就能灵活采用新模型。Amazon Bedrock AgentCore 提供托管的代理运行环境,减少了在生产环境运行代理的运维负担。图 1 从实现层面展示了这一流程。用户请求通过 Amazon API Gateway 上的 LoanPro API v2 进入系统。AWS Lambda 处理程序将请求放入 Amazon Simple Queue Service(Amazon SQS)队列。随后,Agent Interceptor Lambda 函数调用 Loan Summary Agent。该代理在 Amazon Bedrock AgentCore 的一项功能 Amazon Bedrock AgentCore runtime 上运行,并使用 Amazon Bedrock 上的 Anthropic Claude 模型。它通过 Amazon Bedrock AgentCore 的一项功能 Amazon Bedrock AgentCore Gateway 上的模型上下文协议(MCP)服务器调用工具。网关从 Loan Summary Service 登记在 AWS Systems Manager Parameter Store 中的目录里找到合适的工具。Loan Summary Tool Lambda 函数通过 LoanPro 的单点登录(SSO)服务验证调用方的签名。随后,它从 LoanPro 的贷款管理系统获取账户数据;该系统在网络负载均衡器后方的 Amazon Elastic Compute Cloud(Amazon EC2)上运行。系统的基于角色的访问控制也会验证同一签名。LoanPro 还会根据用户权限和合规控制检查每项请求,然后将操作写入审计记录。以下各节介绍这些组成部分:多代理系统、它调用的工具以及网关。图 1:LoanPro AI 贷款服务助手的高层架构。该架构有 4 个关键组件,将图 1 中的组成部分与负责协调和执行操作的编排代理及 Invoke API Tool 结合起来:使用 Strands Agents SDK 的多代理架构:该解决方案采用使用 Strands Agents SDK 构建的多代理架构。各个专业代理协作处理贷款服务工作流程中的不同环节,而不是由单个整体式模型处理所有任务。一个代理专注于数据检索和账户摘要,另一个负责选择操作并提供工作流程建议。编排代理将每项请求路由至合适的专业代理,并组织最终答复。这种职责划分使各个代理更易于独立评估、调整和扩展。工具调用:Data Retrieval 和 Invoke API。代理通过工具调用,从 LoanPro 的内部系统获取借款人数据。工具调用是 Amazon Bedrock 用于调用外部函数和 API 的一项功能。该助手主要由 2 个工具提供支持:Data Retrieval Tool:从 LoanPro 的数据层获取账户详情、付款历史、贷款条款和借款人元数据,在图 1 中显示为 Loan Summary Tool。它涵盖 8 个不同的 API 端点,每个账户整合约 1,400 个字段。Invoke API Tool:触发 LoanPro 平台内的工作流程操作,例如向客服人员显示信息面板,或启动预定义的自动化流程。通过连接 LoanPro 现有的 API,该助手可以使用实时生产数据,而无需单独的数据管道或数据仓库。结合 AWS Lambda 的 Amazon Bedrock AgentCore Gateway:AgentCore Gateway 是代理与其调用的工具之间的安全访问层。它通过模型上下文协议(MCP)将 LoanPro 的 API 作为工具提供给代理,处理身份验证并管理这些连接。AWS Lambda 是一项无需预置或管理服务器即可运行代码的无服务器计算服务,负责网关与 LoanPro API 之间的集成。团队选择结合 Lambda 使用 AgentCore Gateway,而不是直接集成,原因有 3 个:它在托管入口集中进行身份验证,将 LoanPro 的 API 隔离在托管边界之后,并允许在不重新部署代理的情况下添加新工具。这种无服务器方式使基础设施保持轻量,并能随请求量自动扩展。在图 1 中,Agent Interceptor(一个 AWS Lambda 函数)调用 AgentCore runtime 上的代理。AgentCore Gateway 实施这一访问控制,在每项请求到达 Loan Summary Tool 之前进行筛查。由于该助手用于受监管的贷款场景,生产部署还为这些组件配备了额外控制措施。LoanPro 的基于角色的访问控制和合规防护措施适用于每项请求,AI 操作会写入 LoanPro 的审计记录,并归属到一名具名的责任人。集成到 LoanPro 现有的网页门户:该助手直接嵌入 LoanPro 现有的网页门户,也就是贷款服务客服人员已经在使用的界面。客服人员通过 2 个组件与 AI 助手交互:账户摘要视图:客服人员打开借款人账户时,助手会自动生成叙述性摘要,介绍账户状况、近期活动和未解决的问题。原始数据由此变成对借款人情况的连贯描述。对话式聊天界面:客服人员可以用自然语言提出后续问题,深入了解具体的账户详情。团队将这种体验描述为让客服人员能够“与贷款对话”。客服人员与聊天界面的每次交互都会被记录,形成借款人通话期间所执行操作的可审计记录。实施方法:LoanPro 与 AWS 生成式 AI 创新中心以及 AWS 顶级咨询合作伙伴 AllCloud 共同构建了该助手。AWS 生成式 AI 创新中心将 AWS 应用科学家与客户及合作伙伴联系起来,以加快生成式 AI 项目的推进。3 个团队共同设计并构建了这一解决方案。最初范围明确的合作项目现已投入生产,为 LoanPro 的贷款服务客服人员提供支持。工作分为 2 条并行的工作线:工作线 1:贷款服务客服助手。主要工作线构建了目前已在生产环境运行的 AI 助手。主要工作包括:选择并梳理代理需要检索的数据源(应用数据、贷款历史、借款人记录);开发代理自主检索数据和智能选择操作的功能;反复调整提示词,以提高检索准确性和输出质量;记录 LoanPro 的安全模型和集成模式,为生产部署路线图提供依据。工作线 2:LLM 账户规则自动化咨询。LoanPro 已有一个概念验证(POC),使用大型语言模型(LLM)将自然语言转换为其 Clojure 规则引擎的规则自动化代码。核心功能可以运行,但该解决方案存在已知局限:频繁超时、缺少监控,也没有部署策略。AllCloud 进行了架构评审,并提出建议,帮助这一现有 POC 达到可投入生产的状态,其中包括成文的生产架构和风险评估。评估流程:一套结构化评估流程根据 LoanPro 领域专家(SME)制定的基准,验证了代理的准确性。团队汇集了由 SME 标注的 150 个账户作为基准。他们以此衡量代理检索数据、总结发现和选择适当操作的能力,并设定了 99% 的准确率目标;代理达到了这一目标。该框架继续用于生产环境,使 LoanPro 能够按照可重复的流程持续衡量和改进代理表现。成果:部署 AI 助手带来了可衡量的运营成效:客户通话时间最多缩短 15%(来源:AllCloud 案例研究)。在 LoanPro 首批上线的贷款机构合作伙伴中,超过 800 名贷款服务专业人员此前每通电话都要花费 18%–20% 的时间(点击 5–7 次,耗时 1–2.5 分钟)了解账户情况。AI 助手让他们只需点击 1 次就能汇集这些背景信息,每通电话节省 1 分钟至将近 2 分钟。对于这些客服人员,这相当于每人每个工作小时最多腾出 9 分钟,所有人员每个工作小时合计约腾出 120 小时的工作能力。内部工单量减少近 8%(来源:LoanPro)。平台上的贷款机构报告称,客服人员在首次通话中解决的案件更多,需要升级处理的支持请求因而减少。在 15 秒内生成账户摘要(来源:LoanPro 内部基准测试)。打开账户后,叙述性摘要可在 15 秒内将借款人原始数据整理成连贯的账户情况描述,取代了客服人员过去需要花费 3–5 分钟进行的手动浏览。服务质量更加一致。该助手向平台上的客服人员提供同等程度的账户背景信息和操作建议,减少因个人经验水平不同而产生的差异。符合合规要求的交互记录。客服人员通过 AI 助手执行的每项操作和提出的每个查询都会被记录,为借款人通话期间的交互提供可审计的记录。负责任 AI 控制。Amazon Bedrock Guardrails 对代理答复实施内容过滤和依据验证,并与 LoanPro 的合规防护措施及基于角色的访问控制(RBAC)配合,在输出到达贷款服务客服人员和借款人之前,确保其符合政策。“AI 助手改变了贷款服务客服人员的工作方式。现在,客服人员无需在每通电话开始的几分钟里切换页面、汇集背景信息;他们打开账户,就能立即看到完整情况,以及关于下一步操作的具体建议。这样的时间节省会在数千通电话中不断累积。”——LoanPro 首席产品官 Colin Terry。展望未来:在贷款服务客服助手取得成功的基础上,LoanPro 和 AllCloud 正在扩大合作。双方正在开发更多 AI 代理,将智能能力扩展到贷款工作流程的更多环节,从贷款服务延伸至催收和贷款发放支持等领域。模块化的多代理架构使这种扩展切实可行。新代理可以使用相同的 Amazon Bedrock AgentCore 基础设施独立构建和部署,无需重新设计核心系统。随着 Strands Agents SDK 和 Amazon Bedrock AgentCore 不断发展,LoanPro 计划在新功能推出后将其纳入系统。结论:本文介绍了 LoanPro、AWS 生成式 AI 创新中心和 AllCloud 如何使用 Amazon Bedrock 及 Amazon Bedrock AgentCore 构建多代理 AI 助手,帮助贷款服务客服人员更快、更一致地解决借款人来电中的问题。该解决方案自主检索数据、实时生成账户摘要并建议下一步最佳操作,使客户通话时间最多缩短 15%。如果你正在为面向客户的工作流程构建代理式 AI 解决方案,以下资源可供参考:Amazon Bedrock:用于使用基础模型进行构建的完全托管服务。Amazon Bedrock AgentCore:用于部署、管理和扩展 AI 代理的基础设施。Strands Agents SDK:支持工具调用的开源 AI 代理构建框架。AWS 生成式 AI 创新中心:借助 AWS 专家的帮助,加快你的生成式 AI 之旅。开始使用时,可以在 GitHub 上了解用于构建多代理系统的 Strands Agents SDK,查阅 Amazon Bedrock AgentCore 文档以了解如何大规模部署代理,或访问 AWS 生成式 AI 创新中心,了解 AWS 专家如何帮助加快你自己的 AI 项目。关于作者:Mariah Miller。Mariah 是 AWS 生成式 AI 创新中心的高级生成式 AI 战略师,负责领导 AI 创新战略及该中心的合作伙伴交付计划。她推动媒体、体育、游戏和金融服务领域的企业生成式 AI 项目从构想走向生产。她还负责该中心针对多模态视频搜索和代理式商务的加速项目。在这个项目中,她负责解决方案战略和客户合作。工作之余,Mariah 喜欢在户外度过时光。Colin Terry。Colin 是 LoanPro 的首席产品官,曾领导推出 LoanPro Core MCP,这是该公司面向贷款机构的 AI 网关。Colin 热衷于推动贷款机构构建、服务和扩展信贷业务的方式现代化,致力于通过分层合规防护措施使 AI 在受监管的贷款领域既实用又安全,让 AI 代理始终处于监管边界之内。他正在构建支持数百个贷款和信贷项目的 AI 基础设施。工作之余,Colin 是一级方程式赛车的忠实车迷,也喜欢陪伴家人。