aifollow.news
Back TechCrunch AI 报道
TechCrunch AI 报道· · Original publication time AI score40

Google unveils two new TPUs for confidential AI workloads and larger inference tasksMachine translation

Google 发布两款新 TPU,分别面向机密计算和大容量推理

AI-assisted summary

Google has unveiled two eighth-generation TPUs. The TPU 8tx, designed with AMD, is intended to isolate sensitive data and model weights during training and inference. The TPU 8i Max combines the capabilities of two TPU 8i chips in one package, doubling memory capacity, processing power and bandwidth so models can handle more information in queries.

Article · AI translation

谷歌正加大芯片研发力度,力图减少其云计算业务对其他公司制造的芯片的依赖。谷歌周一发布了两款新型张量处理单元(TPU),这类内部开发的芯片专为人工智能工作负载设计。新产品将其芯片产品组合扩展到更多使用场景:保密推理,以及为大型工作负载提供更大的内存容量。

新产品 TPU 8tx 和 TPU 8i Max 属于该公司今年 4 月推出的第 8 代芯片系列,并在当时芯片所提供的更强推理能力和对大规模训练需求的支持基础上进一步扩展。

谷歌在一篇博客文章中表示,与 AMD 共同设计的 TPU 8tx 基于 TPU 8t 芯片,专门用于以保密方式训练和运行人工智能模型。该公司写道,这款芯片“将安全性直接融入硬件层,即使敏感数据和模型权重正在使用中,也能使其受到保护并保持隔离”。

这款芯片还配有定制的推理网络,使其能够在训练的同时运行推理,因此可用于实时蒸馏和训练小型模型。谷歌称,对于希望利用自身专有数据训练模型、又不必在设备之间转移数据的公司,这项能力可能会派上用场。

与此同时,TPU 8i Max 实际上将该公司 4 月推出的 2 颗侧重推理的 TPU 8i 芯片整合在一个封装中,使内存容量、处理能力和带宽翻倍。由此形成的芯片让人工智能模型在处理查询时能够涵盖更大范围的信息。

此次芯片发布之际,微软、亚马逊等超大规模云服务商,乃至 OpenAI 和 Anthropic 等人工智能实验室,都在开发自己的人工智能专用半导体产品线及配套软件,以减少对占据主导地位的英伟达的依赖。

这一消息发布时,英伟达也正处于一个尤其脆弱的时刻:其首席执行官黄仁勋在周末承认与一名被指为中国间谍的人有染。

Found an error? Send a correction