aifollow.news 搜索
返回 NVIDIA 官方博客
NVIDIA 官方博客· · 原发布时间

NVIDIA发布模块化AI工厂设计,并推出智能体安全与知识工具

自动核验发布 · 本文由系统生成并完成证据核验,未经人工审稿。

AI 辅助摘要

在GTC Berlin主题演讲上,NVIDIA发布DSX POD参考设计:合作伙伴可在模块化容器内完成Vera Rubin AI工厂的集成与验证;现场公用设施就绪后,部署时间据称可从六个月缩至14天。公司还推出智能体安全参考架构和连接企业文档、数据库的Agent Knowledge Foundation。

正文 · AI 翻译

Tempodrom 于 1980 年在柏林墙附近的一顶帐篷中创立,几经迁址后于 2001 年在安哈尔特火车站附近落户。此后,它的永久场馆举办了音乐会、晚会和政治活动。如今,这里上演的是另一种盛会。柏林 GTC 为期 3 天,位于不远处 STATION-Berlin 的 100 多场会议正在进行,主题涵盖代理式 AI、机器人技术、物理 AI、开放模型和加速计算。而在这里,记者、分析师和合作伙伴齐聚一堂,参加重头戏:NVIDIA 创始人兼首席执行官黄仁勋的主题演讲。黄仁勋登台。黄仁勋开场便提出一个问题:欧莱雅、Revolut、Spotify、默克、沃达丰、Zara、保时捷、雀巢和汇丰有什么共同点?他说,它们都是欧洲企业,而且都在与 NVIDIA 合作开发 AI。这场主题演讲之前,NVIDIA 刚结束为期 1 周的欧洲巡回行程,足迹遍及巴黎、伦敦、斯德哥尔摩和都柏林;公司承诺向欧洲各地的技术生态系统投入近 100 亿美元,并与 12,000 多家合作伙伴开展合作。“计算机行业经历了数十年的进步,如今我们正处于一场新工业革命的开端,”黄仁勋说。黄仁勋解释说,AI 就像一个 5 层蛋糕。能源驱动先进计算机,这些计算机是 AI 工厂的一部分;AI 工厂通过在其上运行的模型生成词元和数字智能,而这些能力随后被整合进各种应用。“早在 AI 模型出现之前,基础设施就必须先建好,”他说,并指出,类似地,互联网首先需要网络,而电力首先需要电网。“要参与这个 AI 经济,你不能只是消费 AI;你还要生产 AI,”黄仁勋说。“我们可以在欧洲完成这一切,事实上,我们已经开始了。”AI 工厂有了新形态。黄仁勋将 NVIDIA 的全栈 AI 工厂——涵盖硬件、系统软件、CUDA-X 库和模型——定位为用于建设和运营 AI 基础设施的广泛平台。“现在,这代表着创建 AI 工厂所需的技术全貌,”黄仁勋说。“这就是 NVIDIA 如今打造的东西,也是我们助力欧洲参与 AI 生态系统和 AI 经济的基础。”他说,已全面投产的 Vera Rubin 将 NVIDIA 的计算平台从模型和大型语言模型扩展到处理整个 AI 智能体。他还展示了 NVIDIA 最新的几款机架级硬件产品。接着,黄仁勋宣布推出 NVIDIA DSX POD。这是一种完整 NVIDIA Vera Rubin AI 工厂的参考设计,由合作伙伴在模块化集装箱内建造,并在交付前完成集成和验证。采用 DSX POD 后,一旦场地公用设施准备就绪,现场部署时间可从 6 个月缩短至仅 14 天。“这将彻底改变全球供应链,”黄仁勋说。“这将改变人们安装和建设数据中心的方式,并有望因此提高速度。”NVIDIA DSX AI Factory Platform 可帮助企业将冷却用水量最多减少 100%,并以最多降低 30% 的能耗实现相同的 AI 产出。智能体成为新的计算平台,而安全是一个工程问题。黄仁勋说,智能体会思考、推理、迭代并使用工具,随着它们变得更加有用,对词元的消耗也随之增加。他将智能体描述为由 5 个要素组成:模型、协调其工作和记忆的运行框架、隔离该框架的沙箱、知识和工具。按照这一界定,智能体不仅是回答问题的模型;它还能利用知识并通过工具采取行动。“最重要的是确保智能体安全,”黄仁勋说。自主智能体可以访问文件、资源、网络和工具,因此应将其权限限制在最低限度,并对其进行监控。NVIDIA 给出的解决方案是全新的 NVIDIA OpenShell Reference Architecture for Safe AI Agents,这是一种基于 NVIDIA OpenShell 构建的全栈设计;OpenShell 是一种开源、受策略控制的运行时环境,具有内核级沙箱功能,位于智能体与其能够影响的系统之间。黄仁勋说,这意味着权限、策略执行和监控必须动态调整。“每一次启动智能体时,权限都不一样,”黄仁勋说。开放模型将专长转化为优势。黄仁勋将 NVIDIA 的开放模型定位为构建满足特定需求的 AI 的起点。NVIDIA 的前沿开放模型可供各行业使用:用于语言的 Nemotron、用于世界基础模型的 Cosmos、用于人形机器人的 GR00T、用于自动驾驶汽车的 Alpamayo、用于量子与经典计算的 Ising,以及用于物理 AI 的 Earth-2。“我们处于前沿,”黄仁勋说。“因此,在所有这些不同领域,我们向大家提供所有模型,而且我们还在持续改进。我们已经为此努力了 10 年,今后也会一直做下去。”NVIDIA 提供模型、数据和用于复现模型的脚本,企业可以针对特定用例用自己的数据对模型进行后训练,将专有数据转化为他所说的“主权智能”。“你可以从 Nemotron 这样极其优秀的开放模型入手,用自己的数据针对自己的用例进行后训练,当然就能实现超级智能,”黄仁勋说。“这样做非常明智,而且所需的技术如今都已具备。”NVIDIA 为智能体提供知识层。随后,黄仁勋介绍了 NVIDIA Agent Knowledge Foundation,这是一套用于将智能体连接到企业数据的模型和库,无论数据是文档中的非结构化信息,还是数据库中的结构化数据。他重点介绍了用于解析文档、对查询进行嵌入处理以及对相关信息重新排序的 Nemotron 工具,以及用于根据结构化数据进行预测的新款 NVIDIA Kumo 模型。“归根结底,要让这些智能体成为超级智能体,就要让它们能够获取你公司的知识,”黄仁勋说。NVIDIA CUDA-X——为智能体提供加速工具。随后,黄仁勋将 NVIDIA CUDA-X 描述为一系列用于科学、工程、研究和创意工作的加速库。已有超过 1,100 万名开发者在 NVIDIA 的加速计算平台上进行开发。黄仁勋说,这些库可以加速模拟器、求解器和数据处理引擎,而智能体可能会借助这类工具完成有用的工作。“CUDA-X 工具为智能体提供了各行各业的专业工具,”黄仁勋说。智能体走进实验室、工厂和工程领域。一段视频通过 3 个行业实例展示了 NVIDIA Agent Toolkit 如何将企业知识、模型和工具结合起来:在 Lila Sciences,智能体利用虚拟实验指导自动化实验室的工作,帮助设计一种潜在的 B 细胞淋巴瘤疗法;在西门子埃尔朗根工厂,智能体帮助为新产品投产做准备,在变更进入工厂车间之前于数字孪生中测试方案;在达索系统,工程智能体利用仿真发现问题并改进设计,从而调整车辆设计。“而且,[所有这些]知识和工具都属于你们,”视频播放后,黄仁勋说。“那是你们的专长,所以现在这一切都可以实现了。”电信运营商成为分布式 AI 基础设施。黄仁勋说,AI 正在改变电信业,提高频谱效率,并将蜂窝基站转变为分布式 AI 基础设施。他提到了 100,000 个站点和约 100 吉瓦的分布式数据中心,并表示,经过近 8 年的努力,NVIDIA 已与诺基亚合作,在 T-Mobile 的网络上完成了首次商业电话呼叫。“现在 CUDA 会打电话了,”黄仁勋说。“AI 将彻底改变我们开展电信业务的方式。它将大幅提高我们的频谱效率。”

发现内容有误?提交纠错