aifollow.news Search
Back NVIDIA 官方博客
NVIDIA 官方博客· · Original publication time

NVIDIA Announces Modular AI Factory Design and Agent Safety and Knowledge ToolsMachine translation

Automatically verified and published · Generated and evidence-checked automatically; not reviewed by a human.

AI-assisted summary

At GTC Berlin, NVIDIA announced DSX POD, a reference design for Vera Rubin AI factories that partners integrate and validate in modular containers. NVIDIA says on-site deployment can fall from six months to 14 days once site utilities are ready. It also introduced an agent safety reference architecture and Agent Knowledge Foundation, which connects agents to company documents and databases.

Article · AI translation

Tempodrom 于 1980 年在柏林墙附近的一顶帐篷中创立,几经迁址后于 2001 年在安哈尔特火车站附近落户。此后,它的永久场馆举办了音乐会、晚会和政治活动。如今,这里上演的是另一种盛会。柏林 GTC 为期 3 天,位于不远处 STATION-Berlin 的 100 多场会议正在进行,主题涵盖代理式 AI、机器人技术、物理 AI、开放模型和加速计算。而在这里,记者、分析师和合作伙伴齐聚一堂,参加重头戏:NVIDIA 创始人兼首席执行官黄仁勋的主题演讲。黄仁勋登台。黄仁勋开场便提出一个问题:欧莱雅、Revolut、Spotify、默克、沃达丰、Zara、保时捷、雀巢和汇丰有什么共同点?他说,它们都是欧洲企业,而且都在与 NVIDIA 合作开发 AI。这场主题演讲之前,NVIDIA 刚结束为期 1 周的欧洲巡回行程,足迹遍及巴黎、伦敦、斯德哥尔摩和都柏林;公司承诺向欧洲各地的技术生态系统投入近 100 亿美元,并与 12,000 多家合作伙伴开展合作。“计算机行业经历了数十年的进步,如今我们正处于一场新工业革命的开端,”黄仁勋说。黄仁勋解释说,AI 就像一个 5 层蛋糕。能源驱动先进计算机,这些计算机是 AI 工厂的一部分;AI 工厂通过在其上运行的模型生成词元和数字智能,而这些能力随后被整合进各种应用。“早在 AI 模型出现之前,基础设施就必须先建好,”他说,并指出,类似地,互联网首先需要网络,而电力首先需要电网。“要参与这个 AI 经济,你不能只是消费 AI;你还要生产 AI,”黄仁勋说。“我们可以在欧洲完成这一切,事实上,我们已经开始了。”AI 工厂有了新形态。黄仁勋将 NVIDIA 的全栈 AI 工厂——涵盖硬件、系统软件、CUDA-X 库和模型——定位为用于建设和运营 AI 基础设施的广泛平台。“现在,这代表着创建 AI 工厂所需的技术全貌,”黄仁勋说。“这就是 NVIDIA 如今打造的东西,也是我们助力欧洲参与 AI 生态系统和 AI 经济的基础。”他说,已全面投产的 Vera Rubin 将 NVIDIA 的计算平台从模型和大型语言模型扩展到处理整个 AI 智能体。他还展示了 NVIDIA 最新的几款机架级硬件产品。接着,黄仁勋宣布推出 NVIDIA DSX POD。这是一种完整 NVIDIA Vera Rubin AI 工厂的参考设计,由合作伙伴在模块化集装箱内建造,并在交付前完成集成和验证。采用 DSX POD 后,一旦场地公用设施准备就绪,现场部署时间可从 6 个月缩短至仅 14 天。“这将彻底改变全球供应链,”黄仁勋说。“这将改变人们安装和建设数据中心的方式,并有望因此提高速度。”NVIDIA DSX AI Factory Platform 可帮助企业将冷却用水量最多减少 100%,并以最多降低 30% 的能耗实现相同的 AI 产出。智能体成为新的计算平台,而安全是一个工程问题。黄仁勋说,智能体会思考、推理、迭代并使用工具,随着它们变得更加有用,对词元的消耗也随之增加。他将智能体描述为由 5 个要素组成:模型、协调其工作和记忆的运行框架、隔离该框架的沙箱、知识和工具。按照这一界定,智能体不仅是回答问题的模型;它还能利用知识并通过工具采取行动。“最重要的是确保智能体安全,”黄仁勋说。自主智能体可以访问文件、资源、网络和工具,因此应将其权限限制在最低限度,并对其进行监控。NVIDIA 给出的解决方案是全新的 NVIDIA OpenShell Reference Architecture for Safe AI Agents,这是一种基于 NVIDIA OpenShell 构建的全栈设计;OpenShell 是一种开源、受策略控制的运行时环境,具有内核级沙箱功能,位于智能体与其能够影响的系统之间。黄仁勋说,这意味着权限、策略执行和监控必须动态调整。“每一次启动智能体时,权限都不一样,”黄仁勋说。开放模型将专长转化为优势。黄仁勋将 NVIDIA 的开放模型定位为构建满足特定需求的 AI 的起点。NVIDIA 的前沿开放模型可供各行业使用:用于语言的 Nemotron、用于世界基础模型的 Cosmos、用于人形机器人的 GR00T、用于自动驾驶汽车的 Alpamayo、用于量子与经典计算的 Ising,以及用于物理 AI 的 Earth-2。“我们处于前沿,”黄仁勋说。“因此,在所有这些不同领域,我们向大家提供所有模型,而且我们还在持续改进。我们已经为此努力了 10 年,今后也会一直做下去。”NVIDIA 提供模型、数据和用于复现模型的脚本,企业可以针对特定用例用自己的数据对模型进行后训练,将专有数据转化为他所说的“主权智能”。“你可以从 Nemotron 这样极其优秀的开放模型入手,用自己的数据针对自己的用例进行后训练,当然就能实现超级智能,”黄仁勋说。“这样做非常明智,而且所需的技术如今都已具备。”NVIDIA 为智能体提供知识层。随后,黄仁勋介绍了 NVIDIA Agent Knowledge Foundation,这是一套用于将智能体连接到企业数据的模型和库,无论数据是文档中的非结构化信息,还是数据库中的结构化数据。他重点介绍了用于解析文档、对查询进行嵌入处理以及对相关信息重新排序的 Nemotron 工具,以及用于根据结构化数据进行预测的新款 NVIDIA Kumo 模型。“归根结底,要让这些智能体成为超级智能体,就要让它们能够获取你公司的知识,”黄仁勋说。NVIDIA CUDA-X——为智能体提供加速工具。随后,黄仁勋将 NVIDIA CUDA-X 描述为一系列用于科学、工程、研究和创意工作的加速库。已有超过 1,100 万名开发者在 NVIDIA 的加速计算平台上进行开发。黄仁勋说,这些库可以加速模拟器、求解器和数据处理引擎,而智能体可能会借助这类工具完成有用的工作。“CUDA-X 工具为智能体提供了各行各业的专业工具,”黄仁勋说。智能体走进实验室、工厂和工程领域。一段视频通过 3 个行业实例展示了 NVIDIA Agent Toolkit 如何将企业知识、模型和工具结合起来:在 Lila Sciences,智能体利用虚拟实验指导自动化实验室的工作,帮助设计一种潜在的 B 细胞淋巴瘤疗法;在西门子埃尔朗根工厂,智能体帮助为新产品投产做准备,在变更进入工厂车间之前于数字孪生中测试方案;在达索系统,工程智能体利用仿真发现问题并改进设计,从而调整车辆设计。“而且,[所有这些]知识和工具都属于你们,”视频播放后,黄仁勋说。“那是你们的专长,所以现在这一切都可以实现了。”电信运营商成为分布式 AI 基础设施。黄仁勋说,AI 正在改变电信业,提高频谱效率,并将蜂窝基站转变为分布式 AI 基础设施。他提到了 100,000 个站点和约 100 吉瓦的分布式数据中心,并表示,经过近 8 年的努力,NVIDIA 已与诺基亚合作,在 T-Mobile 的网络上完成了首次商业电话呼叫。“现在 CUDA 会打电话了,”黄仁勋说。“AI 将彻底改变我们开展电信业务的方式。它将大幅提高我们的频谱效率。”

Found an error? Send a correction