aifollow.news
← 新闻
事件 OpenAI 最新进展 10月30日 01:00

OpenAI更新模型准则,将“忠于人类意图”列为首项价值观

OpenAI更新Model Spec,列出“忠于人类意图”、减少伤害、诚实透明、促进人的自主性和关怀五项核心价值观。新版准则强调,GPT应结合任务目的与对话上下文理解用户意图;涉及发邮件、删文件或花钱等现实行动时,须在明确授权范围内行事。

1 次进展3 篇报道3 个来源3 条已核验动态

已核验动态 3

时间未知
时间未知

事件进展 1

OpenAI 更新 Model Spec,提出五项核心价值观

OpenAI 更新了 Model Spec,以五项核心价值观引导能力更强的 AI 作出合理判断、尊重人的自主权,并忠实于人的意图。

查看来源报道 · 3 个来源 · 3 篇报道
全部报道 3
量子位 AI 报道 精选

OpenAI更新模型准则,将“忠于人类意图”列为首项价值观

OpenAI更新Model Spec,列出“忠于人类意图”、减少伤害、诚实透明、促进人的自主性和关怀五项核心价值观。新版准则强调,GPT应结合任务目的与对话上下文理解用户意图;涉及发邮件、删文件或花钱等现实行动时,须在明确授权范围内行事。

另外 2 家也报道了
  • IT之家 科技新闻
  • OpenAI 官方新闻

推荐理由:这次更新具体规定了GPT如何理解用户意图,以及执行现实行动时的授权边界,关系到用户能否控制模型的行为。
IT之家 科技新闻 同事件

OpenAI 更新模型规范,确立五项行为准则

OpenAI 将公开的模型规范重构为五项准则,包括忠于人类意图、降低伤害和诚实透明。公司称,模型应理解用户、开发者及 OpenAI 的意图,而非机械执行字面指令;现有模型尚不能完全符合新版规范,团队正在研究新的训练方式。

另外 2 家也报道了
  • 量子位 AI 报道
  • OpenAI 官方新闻
同一事件,精选展示《OpenAI更新模型准则,将“忠于人类意图”列为首项价值观》