原帖引用 · AI 翻译
斯坦福的新研究:与 AMD MI350X 相比,NVIDIA B200 每单位能耗创造的美元价值超过 4 倍,节省的专家时间超过 9 倍。
也就是说,在模型不变的情况下,单靠芯片就能决定你的电力预算能带来多少经济回报。
在这项研究中,斯坦福研究人员让同一个 AI 模型 Qwen3.6-27B 分别在 4 种不同的单颗 AI 芯片上运行,完成 220 项真实的专业任务,并测量每种芯片消耗的能量能产出多少有用的工作。
斯坦福的一篇新论文发现,与能力最强的 AI 模型相比,较小的 AI 模型每单位能耗能创造高得多的经济价值。
既然世界如今受到能源和电力的限制,每项 AI 任务消耗多少能量确实应该得到研究。
在这项研究中,研究人员构建了 Joules-to-GDP,用于衡量 AI 工作创造的美元价值减去运行成本后,除以所用能量的焦耳数。他们用 GDPval 中覆盖 44 种职业的 220 项专业任务测试了 5 个开放模型。
> GLM 5.2 每项任务创造的净价值最高,但 Gemma 4 31B 只消耗其 23% 的能量,就创造了其 56% 的净价值。
> 将 Qwen3.6-27B 从 1 块 H100 扩展到 8 块 H100,任务耗时仅缩短 22%,能耗却增至 3.2 倍。
> 尽管价格和速度与 GLM 5.2 几乎相同,GPT-OSS 120B 的能耗却比它低 68%。
> 将同一个模型从 1 块 H100 芯片改为在 8 块上运行,任务只快了 22%,能耗却增至 3.24 倍,而创造的工作美元价值几乎相同。
https://t.co/KAj3vxhHto
原文
New Stanford paper finds that a smaller AI model can return far more economic value per unit of energy than the most capable one. Now that the world is limited by energy/power, how much energy each AI task burns should indeed by studied. Here, the researchers built Joules-to-GDP, which measures the dollar value of an AI's work, minus its running cost, per joule of energy used. They tested 5 open models on 220 professional tasks from GDPval, covering 44 occupations. > GLM 5.2 produced the most net value per task, but Gemma 4 31B got 56% of it with 23% of the energy. > Moving Qwen3.6-27B from 1 to 8 H100s cut task time by just 22% while using 3.2x the energy. > GPT-OSS 120B used 68% less energy than GLM 5.2 despite nearly the same price and speed. > Running the same model on 8 H100 chips instead of 1 made tasks only 22% faster but used 3.24x the energy, for nearly the same dollar value of work https://t.co/KAj3vxhHto
AI 消耗的全球能源越来越多。但 AI 究竟为我们创造了多少经济价值?
我们推出 Joules-to-GDP(J2G),这是一个衡量 AI 将能源转化为经济价值的效率,并展示哪些任务、模型和硬件能带来最佳回报的框架。
通过研究 @OpenAI 的 GDPval 中涵盖金融、工程、法律、行政工作等领域的 44 种职业,我们得出了 3 项发现:
1)经济价值最高的任务,并不一定是每焦耳经济价值最高的任务。例如,CAD 设计每项任务的收益比建设网站高约 10%,但后者每焦耳创造的价值高约 27%。
2)能力最强的模型并不总是最有效的能源利用方式。Gemma 4 31B 只消耗 GLM 5.2 的 23% 的能量,就创造了其 56% 的净价值,每焦耳创造的价值是其 2.5 倍。
3)增加芯片并不能保证回报按比例增长。将同一个模型从 1 块 NVIDIA H100 扩展到 8 块,能耗增至 3.2 倍,完成时间却只缩短 22%,创造的价值大致相同。
我们还与 @SnorkelAI 一起发布 GDPWorks,这是一个涵盖另外 36 种职业中具有经济价值的任务的基准测试。
这项合作研究由 @amirzeinaalii 和 @Avanika15 共同牵头,参与者还包括 @Mersad_Abbasi、@Jon_Hartley_、John Hennessy、@HazyResearch 和 @Azaliamirh。
更多细节见下文 🧵
原文
AI is using more and more of the world’s energy. But how much economic value are we getting from AI? We’re introducing Joules-to-GDP (J2G), a framework that measures how well AI turns energy into economic value and shows which tasks, models, and hardware give the best return. Across 44 occupations in finance, engineering, law, administrative work, and more in @OpenAI's GDPval, we arrive at three findings: 1) The tasks with the highest economic value are not the tasks with the highest economic value per joule. For example, CAD design earns ~10% more per task than building websites, but the latter earns ~27% more value per joule. 2) The most powerful model isn’t always the best use of energy. Gemma 4 31B delivers 56% of GLM 5.2’s net value with 23% of the energy, for 2.5x the value per joule. 3) More chips don’t guarantee proportionate returns. Moving the same model from 1 to 8 NVIDIA H100s uses 3.2x the energy but cuts completion time by only 22%, with about the same value. With @SnorkelAI, we’re also releasing GDPWorks, a benchmark for economically valuable tasks across 36 additional occupations. Joint work co-led by @amirzeinaalii and @Avanika15, with @Mersad_Abbasi, @Jon_Hartley_, John Hennessy, @HazyResearch, and @Azaliamirh. More details below 🧵