aifollow.news
返回 Rohan Paul
Rohan Paul· @rohanpaul_ai · X· · 原发布时间 AI 评分54

OpenAI 与 Ligo 推出湿实验评测 BioBasicsBench,测试 AI 解读原始数据的能力

AI 导读

BioBasicsBench 从真实实验中选取 100 项任务,让 AI 智能体解读凝胶照片、显微镜视频等原始数据,并评估其识别错误及判断证据是否足以支持结论的能力。材料报告,在这项评测中,GPT-6 Astra 获得 66.7% 的可得分数,GPT-5.6 Sol 为 43.8%。

原帖引用 · AI 翻译

@rohanpaul_ai
译文 · 以原文为准

OpenAI 构建了 BioBasicsBench。这项测试向 AI 智能体提供真实实验室工作中杂乱的原始数据,例如凝胶照片和显微镜视频,并评估它们能否正确解读这些数据。

在一项新的湿实验室基准测试中,GPT-6 Astra 获得了可得分数的 66.7%,而 GPT-5.6 Sol 获得了 43.8%。

BioBasicsBench 由 OpenAI 与酶设计公司 Ligo 共同构建,包含 100 项任务,取材于科学家的原始凝胶图像、菌落培养板、显微镜图像、测序读数和实验台视频。

其评分标准允许给予部分分数,包括对发现错误或指出证据不足以支持结论的回答给分。

在 xhigh 设置下,Astra 每项任务使用 4,704 个输出 token,约为较早模型的一半,因此更长的推理并非成绩提升的原因。

引用OpenAI@OpenAI
译文
一种衡量 AI 智能体如何处理湿实验室科学日常分析工作的新方法——BioBasicsBench。 这项基准测试与专注于酶设计的生物技术公司 Ligo 共同开发,取材于真实实验中的 100 项任务,旨在测试智能体能否解读原始实验室数据、识别错误,并判断证据何时不足以支持结论。 加速生物学研究,要从做好日常工作开始。BioBasicsBench 展示了模型需要改进的方面,并帮助我们追踪这些进步对科学进展、生物安全和生物安保意味着什么。 https://t.co/wN2xLk0YeW
原文

A new way to measure how AI agents handle the routine analyses of wet-lab science—BioBasicsBench. Developed with Ligo, a biotech company focused on enzyme design, the benchmark draws on 100 tasks from real experiments to test whether agents can interpret raw lab data, identify errors, and recognize when the evidence doesn’t support a conclusion. Accelerating biological research starts with getting the everyday work right. BioBasicsBench shows where models need to improve, and helps us track what those gains mean for scientific progress, biosafety, and biosecurity. https://t.co/wN2xLk0YeW

在 X 查看这条帖子 ↗

来源:Rohan Paul · x.com

论文
发现内容有误?提交纠错