原帖引用 · AI 翻译
斯坦福的一篇新论文发现,较小的 AI 模型每单位能源所创造的经济价值,可能远高于能力最强的模型。
如今世界受到能源和电力供应的限制,每项 AI 任务消耗多少能源确实应该得到研究。
在这项研究中,研究人员构建了 Joules-to-GDP,用 AI 工作的美元价值减去运行成本,再除以所用能源的焦耳数。他们使用 GDPval 中涵盖 44 种职业的 220 项专业任务,测试了 5 个开放模型。
> GLM 5.2 每项任务创造的净价值最高,但 Gemma 4 31B 只用了其 23% 的能源,就创造了其 56% 的净价值。
> 将运行 Qwen3.6-27B 的 H100 数量从 1 块增加到 8 块,任务耗时仅缩短了 22%,能源消耗却增至 3.2 倍。
> 尽管价格和速度几乎与 GLM 5.2 相同,GPT-OSS 120B 的能源消耗却比它低 68%。
> 同一个模型使用 8 块 H100 芯片而非 1 块运行时,任务完成速度只提高了 22%,能源消耗却增至 3.24 倍,创造的工作美元价值几乎相同。
AI 消耗着世界上越来越多的能源。但我们从 AI 获得了多少经济价值?
我们推出 Joules-to-GDP(J2G),这是一个衡量 AI 将能源转化为经济价值的效率,并显示哪些任务、模型和硬件带来最佳回报的框架。
针对 @OpenAI 的 GDPval 中涵盖金融、工程、法律、行政工作等领域的 44 种职业,我们得出了 3 项发现:
1)经济价值最高的任务,并不一定是每焦耳经济价值最高的任务。例如,CAD 设计每项任务的收益比建网站高约 10%,但后者每焦耳创造的价值高约 27%。
2)能力最强的模型并不总是能源利用的最佳选择。Gemma 4 31B 仅消耗 GLM 5.2 的 23% 的能源,却创造了其 56% 的净价值,每焦耳创造的价值是其 2.5 倍。
3)增加芯片数量并不能保证回报按比例增长。将运行同一模型的 NVIDIA H100 数量从 1 块增加到 8 块,能源消耗增至 3.2 倍,完成时间却仅缩短 22%,创造的价值大致相同。
我们还与 @SnorkelAI 一同发布 GDPWorks,这是一个涵盖另外 36 种职业中具有经济价值的任务的基准测试。
这项合作研究由 @amirzeinaalii 和 @Avanika15 共同牵头,参与者还包括 @Mersad_Abbasi、@Jon_Hartley_、John Hennessy、@HazyResearch 和 @Azaliamirh。
更多详情见下文 🧵
原文
AI is using more and more of the world’s energy. But how much economic value are we getting from AI? We’re introducing Joules-to-GDP (J2G), a framework that measures how well AI turns energy into economic value and shows which tasks, models, and hardware give the best return. Across 44 occupations in finance, engineering, law, administrative work, and more in @OpenAI's GDPval, we arrive at three findings: 1) The tasks with the highest economic value are not the tasks with the highest economic value per joule. For example, CAD design earns ~10% more per task than building websites, but the latter earns ~27% more value per joule. 2) The most powerful model isn’t always the best use of energy. Gemma 4 31B delivers 56% of GLM 5.2’s net value with 23% of the energy, for 2.5x the value per joule. 3) More chips don’t guarantee proportionate returns. Moving the same model from 1 to 8 NVIDIA H100s uses 3.2x the energy but cuts completion time by only 22%, with about the same value. With @SnorkelAI, we’re also releasing GDPWorks, a benchmark for economically valuable tasks across 36 additional occupations. Joint work co-led by @amirzeinaalii and @Avanika15, with @Mersad_Abbasi, @Jon_Hartley_, John Hennessy, @HazyResearch, and @Azaliamirh. More details below 🧵