OpenAI更新模型准则,将“忠于人类意图”列为首项价值观
OpenAI更新Model Spec,列出“忠于人类意图”、减少伤害、诚实透明、促进人的自主性和关怀五项核心价值观。新版准则强调,GPT应结合任务目的与对话上下文理解用户意图;涉及发邮件、删文件或花钱等现实行动时,须在明确授权范围内行事。
1 次进展3 篇报道3 个来源3 条已核验动态
已核验动态 3
时间未知
OpenAI
发言
OpenAI 更新 AI 模型规范,将忠于人类意图作为核心准则
OpenAI 表示,忠于人类意图是新版模型规范的基础,此次更新旨在让模型在陌生场景下践行人类价值观并接受人类监督;现有模型尚无法完全符合新版规范,团队正研究新的训练方式。
时间未知
事件进展 1
OpenAI 更新 Model Spec,提出五项核心价值观
OpenAI 更新了 Model Spec,以五项核心价值观引导能力更强的 AI 作出合理判断、尊重人的自主权,并忠实于人的意图。
查看来源报道 · 3 个来源 · 3 篇报道
- OpenAI 官方新闻 · OpenAI 更新 Model Spec,提出五项核心价值观
- IT之家 科技新闻 · OpenAI 更新模型规范,确立五项行为准则
- 量子位 AI 报道 · OpenAI更新模型准则,将“忠于人类意图”列为首项价值观
全部报道 3
量子位 AI 报道
精选
OpenAI更新模型准则,将“忠于人类意图”列为首项价值观
OpenAI更新Model Spec,列出“忠于人类意图”、减少伤害、诚实透明、促进人的自主性和关怀五项核心价值观。新版准则强调,GPT应结合任务目的与对话上下文理解用户意图;涉及发邮件、删文件或花钱等现实行动时,须在明确授权范围内行事。
另外 2 家也报道了
- IT之家 科技新闻
- OpenAI 官方新闻
推荐理由:这次更新具体规定了GPT如何理解用户意图,以及执行现实行动时的授权边界,关系到用户能否控制模型的行为。
IT之家 科技新闻
同事件
OpenAI 更新模型规范,确立五项行为准则
OpenAI 将公开的模型规范重构为五项准则,包括忠于人类意图、降低伤害和诚实透明。公司称,模型应理解用户、开发者及 OpenAI 的意图,而非机械执行字面指令;现有模型尚不能完全符合新版规范,团队正在研究新的训练方式。
另外 2 家也报道了
- 量子位 AI 报道
- OpenAI 官方新闻
OpenAI 官方新闻
同事件
OpenAI 更新 Model Spec,提出五项核心价值观
OpenAI 更新了 Model Spec,以五项核心价值观引导能力更强的 AI 作出合理判断、尊重人的自主权,并忠实于人的意图。
另外 2 家也报道了
- 量子位 AI 报道
- IT之家 科技新闻