aifollow.news Search
Back Rohan Paul
Rohan Paul· @rohanpaul_ai · X· · Original publication time AI score54

Google, UCLA and CMU study finds AI coding tools struggle with XR app tasksMachine translation

Automatically verified and published · Generated and evidence-checked automatically; not reviewed by a human.

AI introduction

The researchers built GenXR-Bench with 112 expert-written tasks covering XR features, bug fixes and full app builds, tested with simulated hand and room input. Claude Opus 5 led overall at 50.9%, but no model exceeded 29.2% on SDK feature tasks; coordinate-frame errors were common in failed runs.

Original post · AI translation

@rohanpaul_ai
Translation · refer to the original

谷歌、UCLA 和 CMU 的一篇新论文发现,AI 编程工具在构建虚拟现实和混合现实应用时经常失败,因为它们无法准确把握物体在 3D 空间中的位置。

Claude Opus 5 以 50.9% 的成绩领先,而在 SDK 功能任务中,没有模型的成绩超过 29.2%。在失败的运行中,64.4% 出现了坐标系错误,44.9% 出现了启动阶段的竞态条件。

XR 应用在 3D 空间中运行,并会对头部运动、手部动作和房间感知作出反应。常规编程基准测试使用单元测试或浏览器点击,无法检查虚拟按钮是否会跟随你的手掌移动。

他们构建了 GenXR-Bench,其中包含 112 项由专家编写的任务,涵盖 XR 功能开发、错误修复和完整应用构建。其测试模拟手部动作和房间环境,所得结果在 96.5% 的情况下与使用真实头显、且不知道测试结果的 XR 专家判断一致。

如果你使用智能体开发 XR 应用,应通过模拟手部和房间输入来测试结果,因为智能体编写的单元测试常常漏掉运行时错误。

Source: Rohan Paul · x.com

Research
Found an error? Send a correction