aifollow.news
Back AWS 机器学习博客
AWS 机器学习博客· · Original publication time AI score47

Novo Nordisk and AWS build AI assistant for pharmaceutical process documentsMachine translation

Novo Nordisk 与 AWS 构建制药流程文档 AI 助手

AI-assisted summary

Novo Nordisk’s Manufacturing Technology team worked with AWS to build an AI assistant for pharmaceutical process documents. It clarifies the applicable site and product scope before searching, then provides cited answers based on approved, effective documents. The post says some expert tasks that took hours or days now take minutes.

Article · AI translation

诺和诺德(Novo)是全球领先的制药公司之一,生产用于治疗糖尿病和肥胖症等慢性疾病的药物,并将药物送到多个国家的患者手中。每款产品背后都有一个遵循严格质量要求的生产网络。每个与质量相关的工艺步骤都必须通过正式文件加以描述、控制和验证。保持这些文件的时效性和准确性,是片剂领域制造技术团队的一项核心职责。这项职责涵盖整个全球组织中庞大且种类繁多的受控文件,包括标准操作规程、作业指导书、表格和培训材料。管理这批文件面临重大挑战。法规变化、工艺改进、设备改造和审计发现都会推动文件频繁更新。每次更新都需要仔细审查、遵循结构化审批流程,并及时告知所有受影响的相关方。数千份现行文件分布在多个事业部、部门和产品项目中,要追踪哪些文件到了修订期限、哪些正等待审批、哪些需要立即处理,变得越来越复杂。目前,这类监督工作在很大程度上依赖人工流程,以及电子表格或互不连通的系统等零散的追踪方式。这些方式耗时、容易出错,也难以扩展。其结果是,过时文件可能继续流通,更新可能延迟,合规状况的可见性也可能出现关键缺口。除了文件管理,还存在更深层的知识难题。宝贵的制造知识分散在许多受控文件、版本、生产基地和产品项目中。能否在需要时找到正确答案,往往取决于经验丰富的人员是否知道去哪里查找。对个人经验知识的这种依赖形成了瓶颈,拖慢决策,并最终影响救命药物送达患者的速度。为应对这些挑战,片剂领域的制造技术团队着手开发一套部署在AWS上、由智能体式AI驱动的智能支持系统。目标是缩短周期、提高文件状态的可见性,并让关键制造知识更易获取,最终帮助企业加快行动,更好地服务世界各地更多患者。本文深入介绍该系统的架构,以及为满足受监管制药环境对准确性和可追溯性的高标准而作出的关键设计决策。该解决方案帮助主题专家(SME)在几分钟内完成过去需要数小时或数天的工作。我们还介绍了一款AI工艺智能助手,它能针对复杂的工艺问题给出有依据、附引文的回答。该解决方案以GraphRAG架构为核心,将知识图谱与混合搜索相结合,检索相关性最高且符合上下文的信息。基于托管式智能体框架构建的AI智能体负责协调从检索到作答的整个过程。引导模式有助于在启动搜索前澄清含糊的问题,使回答更加准确且有据可依。挑战:支持制造业务的团队反复回答同一问题的不同表述:对于这个生产基地、这款产品和这台设备,工艺有什么要求?要准确回答,必须同时具备4个条件:从庞大的文件库中找到正确的文件;找到正确的版本和生命周期状态(已获批准且已生效,而非草稿或已废止);确认正确的适用范围(文件确实适用于该生产基地、产品代次和设备);厘清文件之间的关系(哪些文件引用了哪些文件,以及一项变更会影响什么)。传统关键词搜索返回的是文件,而不是答案,也不理解适用范围、版本或文件关系。 普通的基于向量的检索增强生成(RAG)系统能够提高对自然语言问题的召回率,但在处理精确标识符(文档编号、设备代码)、需要多跳关系推理的问题,以及(对于受监管领域尤为重要的)识别相关内容何时不可用方面,仍然存在困难。团队需要一个将结构和关系作为核心要素、以获批来源为依据,并在不确定时提出澄清问题而非猜测的系统。解决方案概述 该助手采用 GraphRAG 架构:Amazon Neptune 中的知识图谱记录结构和关系,Amazon OpenSearch Serverless 中的混合搜索索引则对文档内容提供语义检索和精确匹配召回。两个存储系统有意保持独立,在查询时连接起来,而不是合并为单一引擎。这是一种常见的生产环境 GraphRAG 模式。推理层运行在 Amazon Bedrock AgentCore 上,该平台支持使用任意框架或模型大规模构建、连接和优化智能体。选择 AgentCore 是因为它提供托管式智能体运行时,内置会话隔离、原生工具编排,并集成 AWS Identity and Access Management(IAM)和可观测性功能。这减少了无差别的基础设施工作,使团队能够专注于领域逻辑。智能体运行时使用 Strands Agents SDK 构建,由 Amazon Bedrock 上的 Anthropic Claude 模型提供支持。文档通过使用 Amazon Bedrock Data Automation 进行多模态解析的摄取流水线处理,并由 AWS Step Functions 和 AWS Lambda 编排。整个技术栈通过 AWS Cloud Development Kit(AWS CDK)以基础设施即代码的方式定义。概括而言,一个问题在系统中的处理流程如下:查询智能体接收问题,并在引导模式下判断问题范围是否足够明确,能否给出恰当回答。如果问题含糊不清,智能体会在搜索前提出一个简短、以图谱为依据的澄清问题(例如适用的是哪个站点或哪一代产品)。范围明确后,混合搜索会检索候选段落,图谱从这些结果出发进行扩展,补充结构和关系,再通过重排序步骤提高准确度。智能体根据获批的来源文档组织答案并提供引用,同时在相关内容不可用时明确说明。架构 图 1:端到端架构。运行在 Amazon Bedrock AgentCore 上的查询智能体使用 Amazon Bedrock 进行推理、生成嵌入和重排序,并通过共享的文档编号连接 Amazon OpenSearch Serverless 和 Amazon Neptune,实现跨两者的混合检索。事件驱动的无服务器摄取流水线向两个存储系统写入数据,而记忆、可观测性和评估功能则支持个性化、监控和质量评估。双层分类体系:结构与领域细节 图谱围绕两个互补层次组织,使助手既能考虑文档所处的位置,也能考虑文档的内容。高层分类体系:流程树。组织的官方流程框架被建模为流程节点的层级结构(从父节点到子节点,约 3 层)。每份受控文档都关联到适用的最底层流程节点,因此每份已纳入系统的文档都有明确的位置。这使助手能够在检索任何内容之前,将问题限定在某个流程领域,并自动对新摄取的文档进行分类。底层分类体系:领域实体。主题专家(SME)定义制造领域中决定答案正确与否的实体:站点、产品代际、设备、流程步骤以及类似属性。这些实体被建模为图谱中的核心节点,并与描述它们的文档相连;所用的是一小组统一的关系类型,而非不断增加的边名称列表。对这两个层次同时建模,才使其成为真正的 GraphRAG 系统,而不只是两个并列的数据库。 OpenSearch 文本片段上的文档编号也是图中的一个节点,因此,搜索命中结果可以直接作为进入图结构的入口,无需再进行模糊匹配。这种从文本块到图的连接是检索路径中的一项关键设计选择。为什么采用固定且经过整理的分类体系(以及为什么这是最佳实践)早期的 GraphRAG 工作倾向于开放式抽取,让语言模型在没有固定模式的情况下发现实体。这种方法有助于从庞杂文本中进行开放式理解,但噪声大、难以维护,也难以审计。过去几年,业界的共识逐渐转向本体指导的抽取:使用预先定义的领域专用模式来引导模型,从而提高专业语料的准确性和可靠性。对于受监管的药品生产而言,这不是妥协,而是恰当的默认选择。该领域已经有由专家整理的真实本体;固定模式加上新实体由人工参与审核后纳入的流程,可以满足团队在受监管的制药环境中对可审计性的要求。这一设计契合了该领域自早期开放模式方法以来的发展方向,同时也使设计决策更容易向质量和审计相关人员解释。检索:混合搜索、图扩展和重排序两个数据存储系统各自弥补了对方的盲点:OpenSearch 提供召回能力——混合搜索将稠密向量相似度搜索(Amazon Titan Text Embeddings)与词法 BM25 匹配结合,并通过倒数排名融合进行整合。向量搜索捕捉语义;词法匹配则捕捉这里至关重要的精确词项:文档编号、设备代码和多语言术语。Neptune 提供结构信息——对于搜索发现的实体和文档,图可以回答“哪些内容相连、如何相连、相隔多远”:相邻文档、引用关系、在层级结构中的位置,以及变更的影响。这正是仅靠向量检索无法做到的。常见模式是先由向量搜索找到起始节点,再从这些节点进行图扩展;对于以关系为先的问题,则反过来。在融合之后还有一个重排序阶段(通过 Amazon Bedrock Rerank 使用交叉编码器):它将问题与每个候选文本片段一起读取,并重新排列其顺序,在成本较低的召回阶段之上增加一道精度筛选,然后才将内容送入模型。引导模式:先澄清,再检索助手处理歧义的方式是其一大特色。像“在制粒机上采集哪些样品?”这样的问题,会因产品代次、厂址、设备和批量不同而有几个正确答案。立即回答可能给出看似自信、实则错误且超出适用范围的答复;在受监管的环境中,这是最糟糕的结果。引导模式颠倒了通常的 RAG 顺序:代理先通过澄清缩小范围,然后再搜索,而不是先检索。这遵循了近期关于检索前澄清歧义问题,以及使用知识图谱提供澄清选项、而非让模型自行编造选项的研究。它使用两类范围限定信息:一小组近乎通用的属性(如厂址和产品代次),会针对具体工艺问题直接且一致地询问。更深层的所有信息,包括具体设备、具体批量,以及随时间新增的属性,都在查询时从图中获取。范围解析步骤会将用户使用的术语与真实的图节点匹配,根据已知信息进行筛选;如果仍有多个候选节点,就提供确实能区分它们的属性,且只使用图中存在的值。这样可以使澄清选项以真实数据为依据(旨在帮助降低生成虚构选项的风险),并具有可扩展性:当专家在分类体系中加入新的区分属性时,助手会自动呈现该属性,无需修改提示词或代码。 受监管环境中的依据与信任 这里对准确性的定义很严格,并通过明确措施加以保障:明确的索引状态——文档的内容尚未可供搜索时,文档本身就可以连同元数据、关联关系和在层级结构中的位置存在于图谱中。一个确定性标志会记录文档内容是否已编入索引,使助手能够区分“我有这份文档的内容”和“我只有它的元数据”,而不是根据空白的搜索结果推断内容是否可用。默认采用已批准的来源——除非用户明确要求草稿或历史修订版,否则回答依据已批准且生效的文档以及最新的适用版本。防止幻觉的规则——澄清问题的选项和带有引用的陈述都应来自实际工具结果,而不是模型自身的知识。明确说明局限——当检索到的材料缺失或含糊不清时,助手会如实说明,而不是自行填补空白,并会标明何时需要主题专家(SME)、质量部门或监管方面的审查。自动化评估框架根据这些标准检查回答:是否选择了相关来源、文档状态是否有效、是否使用最新适用版本、是否符合范围要求、引用是否准确,以及是否忠实保留要求的强制程度(必须、应该或可以),从而在系统演进过程中衡量其表现。覆盖数百万份文档的智能搜索引擎 这一解决方案所依托的更大文档库约有400万份文档。在这样的规模下,问题不是信息不足,而是几乎不可能靠人工找到恰好正确、符合适用范围且当前有效的答案。传统企业搜索会返回按关键词重合程度排序的长篇结果列表,把艰难的工作留给提问者,包括判断哪条结果适用、哪个版本有效,以及文档之间有何关联。这一解决方案将文档库转变为优先给出答案的智能搜索引擎;双层分类体系使其能够在大规模下运行:图谱是完整的地图,索引则是可搜索的子集。所有已登记领域中每份完成接入的文档,都会连同其元数据、关联关系及在层级结构中的位置纳入图谱。这意味着,即使有数百万份文档的内容尚未编入索引,助手仍能推断文档所处的位置及其关联。已接入领域的全文内容会逐步编入索引,助手也会明确区分哪些内容已编入索引、哪些尚未编入。范围界定会在检索前缩小搜索空间。由于引导模式会预先确定地点、产品代际、流程领域和设备,问题会被限定在文档库中能够回答它的一小部分。系统搜索的是范围内的少量文档,而不是数百万份文档。随着语料库增长,这有助于保持答案的精准。混合搜索结合图谱扩展,超越关键词排序,呈现单纯的排序列表无法揭示的相关文档、引用关系和层级结构,并返回有依据、附有引用的答案(而不是10个蓝色链接),同时说明内容何时不可用。这一设计旨在随着文档库增长而扩展,而不是因其增长而退化:文档越多、关联越密切,图谱和范围界定带来的价值就越大。成效 根据主题专家所执行的任务类型(查找答案、更新文档,或为新情境调整文档),原本需要数小时或数天的工作可缩短至数分钟。除了直接节省时间,这一解决方案还改变了哪些工作在实践中可行:浏览集团的流程全貌——用户可以借助同一个助手,在流程分类体系的全部3个层级之间穿梭;该体系涵盖约400万份文档及其众多子流程,而这个助手既是搜索引擎,也是了解文档、流程和组织结构图的向导。 整合结构化和非结构化数据——元数据、流程层级和文档内容被统一到一个可搜索的知识图谱中,使过去分散在不同系统中的信息能够一起查询。理解实体与文档之间的关系——该图谱帮助用户询问文档、流程、设备、场地和产品如何关联,包括人工搜索无法回答的多跳问题。端到端追踪并验证引用——该解决方案可以绘制文档的完整引用链,并标记文档引用过时或已被取代的材料之处,从而发现整个文档集合中的完整性问题,而非一次只检查一份文档。扩展至更多 AI 和智能体能力——同一个有依据的基础为文档生成、结合影响分析的修订,以及其他复用相同图谱、检索机制和防护措施的智能体工作流程打开了大门,无需从头开始。在受监管的环境中,同样重要的是,该助手旨在澄清问题范围并标记缺失或含糊的内容,有助于降低它自信地给出超出范围的答案的风险,因为错误的真正代价就在于此。协作式交付模式 Novo Manufacturing Technology 团队的 Tablet 业务领域与 AWS 合作构建了这一解决方案,领域专家以及数据和 AI 工程师全程紧密协作。使助手保持准确的分类体系直接来自该团队的领域专家。检索和智能体架构则与 AWS 共同设计,并经过反复迭代。构建原型是推动解决方案上线的关键。团队没有抽象地争论各项能力,而是很早就把一个可运行的系统交给领域专家。他们用真实问题测试系统,并根据所得经验完善分类体系、检索路径和引导模式的行为。原型把一个宏大的构想变成了人们可以试用、评议并信任的东西。它还在更大范围推广之前降低了架构决策的风险。结论 通过结合精心构建的知识图谱、混合搜索,以及基于 Amazon Bedrock AgentCore 的先澄清再检索的智能体,Novo Manufacturing Technology 团队的 Tablet 业务领域构建了一个流程智能助手:在速度有帮助时快速响应,在准确性至关重要时以依据为本。该设计将当前的 GraphRAG 模式应用于受监管的制造业:本体引导的提取、连接两个数据存储的检索路径、以图谱为依据的歧义消解,以及重新排序。这将庞大的文档体系转化为有依据、带引用的答案,同时留有扩展到新领域的空间。要开始构建自己的智能体 AI 解决方案,请探索 Amazon Bedrock AgentCore,它可提供大规模托管式智能体运行时、工具编排和可观测性。本文中的智能体运行时使用 Strands Agents SDK 构建;这是一个开源、与框架无关的工具包,可与您自己的检索技术栈配合使用。有关使用 Amazon Neptune 和 Amazon OpenSearch Serverless 的 GraphRAG 参考架构,请访问 AWS Architecture Center。关于作者 Elias Bedmar Elias 是 AWS 的高级 AI 架构师。他专注于 AI 和数据,并运用 AWS 上的最新技术在 EMEA 地区交付原型。他在技术领域拥有 8 年经验,推动解决方案的采用和大型项目的交付。Elias 拥有数据与 AI、DevOps 工程和云基础设施方面的经验。Kaizad Wadia Kaizad 是 AWS 的解决方案架构师。他拥有 5 年经验,具备航空航天工程和计算机科学背景。他专注于数据和 AI,为全球企业设计云端数据应用的架构并进行验证。凭借开发者思维,他擅长解决复杂挑战,并为企业提供创新解决方案。 Victor Ihuoma Victor 是 Novo 的高级后端开发人员,在多个 AI 项目中担任技术负责人。他拥有超过 8 年的经验,曾先后在 Danfoss 和 Novo 为制药生产及工业物联网构建分布式系统和投入生产的 AI 系统。他推动平台从最初原型走向生产应用,配备受监管的 GMP 环境所要求的评估机制和访问控制,并构建被其他团队采纳为标准的系统。Lauge Nissen Lauge 是 Novo 的产品负责人,致力于弥合专业领域终端用户与适合其需求的技术之间的差距。他在 GxP 软件和质量管理系统(QMS)方面拥有丰富经验。他以产品愿景见长,带领开发团队围绕按优先级排序的业务目标开展工作。他的方法重视尽快将实用解决方案交到用户手中,涵盖利用智能体平台进行的小型 AI 优化,以及大规模 AI 解决方案。Konstantinos Poul Papanikos Konstantinos 是 Novo 的后端开发人员,拥有数据科学背景。他主要致力于构建数据产品和端到端解决方案,以加快制药行业的数字化进程。他具备 AI 智能体和检索增强生成方面的实践经验,并为 GxP 内容构建可规模化运行的 AWS 数据管道。在质量管理系统(QMS)领域工作时,他确保数据保持最新、受到访问控制并符合合规要求,让用户能够信赖 AI 提供的信息。他的方法重视快速交付,同时验证每项变更,使新解决方案迅速送达用户手中,又不损害质量。Klaus Kristiansen Klaus 是 Novo 的数据工程师,在多个项目和领域从事云基础设施、数据管道、安全及合规工作。他拥有超过 7 年构建云原生数据平台和将机器学习投入生产的经验,其中包括为 TV 2 Play 流媒体平台开发推荐系统。他编写的基础设施即代码模板被封装为共享库,已成为其他基于 AWS 构建项目的安全、合规起点。他善于解决问题,乐于迎接挑战,对细节要求很高,并为每个问题寻找最佳解决方案。Venelin Banov Venelin 是 Novo 的高级前端开发人员,构建帮助人们处理复杂信息和流程的应用程序。他的经验涵盖 AI 驱动的解决方案,以及支持制药生产的 GxP 软件。他将前端开发与自动化测试和 AI 评估相结合,把用户体验与底层系统的可靠性联系起来。他的方法重视将复杂的技术能力转化为直观、实用的工具,并注重易用性和软件质量。Nicolai Piet Dittmann Nicolai 是 Novo 的后端开发人员,拥有数据科学背景,并具备为制药生产开发 GxP 软件的经验。他曾从事云基础设施、部署管道,以及 AI 解决方案的数据摄取和检索工作。质量是他工作的核心:他确保每项变更都经过测试、审查,并且可追溯。

Found an error? Send a correction