Article · Original
感谢IT之家网友 华南吴彦祖 的线索投递！
IT之家 11 月 11 日消息，当地时间 11 月 10 日，谷歌宣布联合 AI 模型评测机构 Artificial Analysis 推出多模态知识智能体基准测试 MKA（Multimodal Knowledge Agent），用于评估 AI 智能体处理视觉复杂文件、完成现实世界知识工作任务的能力。
谷歌表示，其最新发布的 Gemini 4 Carbon 在该测试中取得了参测模型第二名的成绩，完成任务的平均成本仅为排名第一模型的约六分之一。
谷歌 DeepMind 高级产品经理 Rohan Doshi 和首席工程师 Ben Caine 介绍称，现有不少知识工作基准测试仅依赖文本即可完成，而现实工作往往涉及大量视觉信息。例如，建筑师需要交叉核对建筑蓝图，工程师需要分析工程示意图，专业人员还需要将不同来源的信息整理成演示文稿、报告和电子表格。
MKA 基准测试旨在评估 AI 智能体在这些复杂工作场景中的表现。谷歌与来自 10 个行业、83 种职业的领域专家合作，建立了包含 200 项任务的评测集，覆盖商业、建筑、教育、工程、金融、医疗、法律与政府、物流与地图、科学以及软件与数据等领域。
每项任务都模拟一个多步骤专业项目，包含真实工作提示词以及一组多模态输入文件。谷歌称，这些任务通常需要经验丰富的专业人员花费 3 至 8 小时完成。IT之家注意到，每项任务还配有专家编写的评分标准，平均包含约 70 项是非判断检查项，其中事实准确性占 75%，视觉设计占 25%。
在评测机制方面，所有参测模型均运行于相同的开源智能体框架 Stirrup，使用相同工具、沙箱环境和交互轮次预算。最终交付成果由一个基于非谷歌模型构建的智能体评审系统进行评分，该系统会打开所有文件、渲染页面、检查电子表格公式，并按照专家评分标准核验结果。谷歌表示，领域专家对模型输出进行人工评分时，与自动评审系统的结果一致率达到 96%。
为避免测试题泄露并进入模型训练数据，Artificial Analysis 将 200 项正式评测任务设为私有。同时，项目还在 Hugging Face 上公开了另外 10 项任务，供开发者了解测试格式并评估自己的智能体。
谷歌公布的测试结果显示，Gemini 4 Carbon 在参测模型中取得质量排名第二的成绩，但平均任务成本仅为排名第一模型的六分之一。谷歌还指出，不同模型完成同一批任务时的效率存在明显差异，平均每项任务消耗的交互轮次在 30 至 130 轮之间。
目前，MKA 基准测试已通过 Artificial Analysis 开放，开发者可以使用该平台评估自己的模型。Gemini 4 Carbon 则已通过 Gemini API 在 Google AI Studio 中提供。
相关阅读：
《谷歌迄今最强模型 Gemini 4 Carbon 登场：主打复杂编程、科学研究与网络安全》
《谷歌最强 AI 模型：Gemini 4 Carbon 登顶全球智能指数榜首，“专职”做网络安全》