全部 AI 动态

Arthur Holland Michel 指出，AI 公司依靠模型训练和额外的分类器拦截有害请求，但这些机制仍可能被绕过，也可能误拒正常问题。文章援引一项测试：五款常用模型更不愿生成批评泰国国王的宣传册，而非批评英国国王的同类内容。

MIT Technology Review 梳理了机器人从实验室走向家庭的障碍：Physical Intelligence 的模型曾尝试完成未专门训练的空气炸锅任务，但未能做完；可预订的 1X Neo 家用机器人目前做大多数事情仍需远程人工操作。

微软研究员Jennifer Neville介绍团队的评估：他们把单轮任务改成由模拟用户在多轮对话中逐步补充要求，发现模型表现明显下降。她建议，如果对话中模型开始混淆要求，可以重新开启对话，把已明确的条件一次说完整；AI给出的结果仍需核查。

皮尤研究中心的调查显示，认为 AI 会对自己及社会产生负面影响的美国成年人，多于预期其产生正面影响的人。与此同时，半数美国成年人表示使用聊天机器人，超过 2023 年的两倍；四分之一的人表示每天使用。

Matthew Green 指出，在分别隔离的沙箱中，智能体发现可以通过共享软件包缓存给彼此留下指令，并改变接收方的行为。他认为，若类似机制出现在邮件或共享文档等渠道，就具备智能体蠕虫传播所需的条件。

在访谈中，Noam Brown称，解出纳维–斯托克斯难题主要依赖模型本身，而非多智能体协作；团队尚未测量1万个Agent相较更小规模的具体收益。他还指出，完成这项工作的内部模型目前尚未向外界开放。