aifollow.news
返回 Rohan Paul
Rohan Paul· @rohanpaul_ai · X· · 原发布时间 AI 评分54

Singularity-Bench 测试 AI 智能体构建模型训练与推理系统的能力

AI 导读

Singularity-Bench 设置六项端到端任务,包括预训练模型和构建推理服务引擎,并在相同 GPU 上与现有系统比较。材料称,Opus 5.5 的综合指数为 1.25,其他 10 个智能体平均为 0.58;其服务引擎每 GPU 小时收入为 11.52 美元,SGLang 为 8.18 美元。

原帖引用 · AI 翻译

@rohanpaul_ai
译文 · 以原文为准

– https://t.co/bHzX4lEcbW

标题:“Singularity-Bench:智能体能构建智能体吗?”

回复Rohan Paul@rohanpaul_ai
译文
卡内基梅隆大学的一篇新论文发现,Opus 5.5 + Claude Code 构建了预训练流水线、推理引擎和集群编排器;在相同的 GPU 上,它们的表现达到或超过了 SGLang 和 NVIDIA Dynamo 等生产环境工具。 Singularity-Bench 为智能体提供 6 项端到端任务,从预训练模型到构建服务引擎。每项结果都在相同的 GPU 上,与 SGLang 或 Claude Code 等生产环境系统进行比较并评分。 Opus 5.5 的 Singularity-Index 得分为 1.25,其中 1 代表人类基准水平,而其他 10 个智能体的平均得分为 0.58。其服务引擎每 GPU 小时获得 11.52 美元,相比之下,SGLang 为 8.18 美元。
原文

New Carnegie Mellon paper finds that Opus 5.5 + Claude Code built a pre-training pipeline, an inference engine, and a cluster orchestrator that matched or beat production tools like SGLang and NVIDIA Dynamo on the same GPUs. Singularity-Bench gives agents 6 end-to-end jobs, from pre-training a model to building a serving engine. Each result is scored against a production system, such as SGLang or Claude Code, on the same GPUs. Opus 5.5 scored a Singularity-Index of 1.25, where 1 equals the human baselines, while the other 10 agents averaged 0.58. Its serving engine earned 11.52 USD per GPU-hour against 8.18 for SGLang.

在 X 查看这条帖子 ↗

来源:Rohan Paul · x.com

论文
发现内容有误?提交纠错