aifollow.news
返回 Rohan Paul
Rohan Paul· @rohanpaul_ai · X· · 原发布时间 AI 评分33

微软停用向 Oracle 租用的 AI 服务器,未续签 2023 年合同

AI 导读

据 Bloomberg 报道,微软未续签一份围绕 Bing 签订的 2023 年合同,正停用向 Oracle 租用的 AI 服务器。知情人士称,相关硬件采用较旧一代 Nvidia 芯片,已不符合微软的规格要求;Oracle 则表示其 AI 基础设施需求仍然强劲。

原帖引用 · AI 翻译

@rohanpaul_ai
译文 · 以原文为准

彭博社:微软决定不续签一份于2023年围绕必应签订的合同,正停用从甲骨文租用的AI服务器。

据知情人士称,这些算力的价值随着时间推移而下降,因为甲骨文的硬件使用较早一代的英伟达芯片,已不再符合微软的规格要求。

基本上,微软按GPU小时付费。功耗相近时,Blackwell GPU的推理输出量是H100的数倍,因此如今每个Hopper或Ampere GPU小时能完成的工作量少得多。

当前的前沿模型通常采用大型混合专家架构,需要大量内存以及GPU之间的高速连接。H100有80GB内存,在其所在服务器中只能与8个GPU高速通信。Blackwell机架将72个GPU连接成一个整体,每个GPU配备192至288GB内存。大型模型要么无法装入旧服务器,要么因跨服务器网络速度较慢而运行缓慢。

甲骨文表示,其AI基础设施需求依然强劲;9月,该公司以比原价高20%的价格续签了使用4年之久的GPU的合同。

来源:Rohan Paul · x.com

行业
发现内容有误?提交纠错