OpenAI 发布儿童性虐待影像识别工具,并为 ChatGPT 增加警告与临时封禁
OpenAI 向部分企业免费开放图像分类器 API,用于识别包括 AI 生成图像在内的儿童性虐待材料,并给审核人员提供判断分数。ChatGPT 将对试图获取儿童性化内容的用户显示警告,并暂停账号 24 小时;公司还发布开发者指南,向执法人员提供调查工具。
1 次进展2 篇报道2 个来源3 条已核验动态
已核验动态 3
OpenAI
宣布
OpenAI wants to stop deepfakes from overwhelming child abuse tiplines
OpenAI在华盛顿特区的周一新闻简报会上宣布一款分类器,称其能更好地识别涉及儿童的虐待影像,包括判断影像是否由AI生成。
地点:Washington, DC
时间未知
OpenAI
发布
OpenAI releases a new image classifier and ChatGPT warnings to combat CSAM
OpenAI通过API免费向部分公司开放其用于识别儿童性虐待材料图像的分类器。
时间未知
OpenAI
其他
OpenAI wants to stop deepfakes from overwhelming child abuse tiplines
OpenAI表示正在向经过审核的机构免费提供该工具的使用权限,并为开发者提供更多检测此类内容的指导,以及帮助培训执法人员利用AI开展调查。
事件进展 1
OpenAI 发布儿童性虐待影像识别工具,并为 ChatGPT 增加警告与临时封禁
OpenAI 向部分企业免费开放图像分类器 API,用于识别包括 AI 生成图像在内的儿童性虐待材料,并给审核人员提供判断分数。ChatGPT 将对试图获取儿童性化内容的用户显示警告,并暂停账号 24 小时;公司还发布开发者指南,向执法人员提供调查工具。
查看来源报道 · 2 个来源 · 2 篇报道
- TechCrunch AI 报道 · OpenAI 发布儿童性虐待影像识别工具,并为 ChatGPT 增加警告与临时封禁
- The Verge AI 报道 · OpenAI 宣布儿童虐待图像识别工具,并向审核通过的机构免费开放
全部报道 2
The Verge AI 报道
同事件
OpenAI 宣布儿童虐待图像识别工具,并向审核通过的机构免费开放
OpenAI 宣布一款分类器,称其可更好识别涉及儿童的虐待图像,并判断图像是否由 AI 生成。公司还将向经过审核的机构提供免费使用权限,为开发者提供检测指导,并协助培训执法人员使用 AI 开展调查。
另外 1 家也报道了
- TechCrunch AI 报道
TechCrunch AI 报道
精选
OpenAI 发布儿童性虐待影像识别工具,并为 ChatGPT 增加警告与临时封禁
OpenAI 向部分企业免费开放图像分类器 API,用于识别包括 AI 生成图像在内的儿童性虐待材料,并给审核人员提供判断分数。ChatGPT 将对试图获取儿童性化内容的用户显示警告,并暂停账号 24 小时;公司还发布开发者指南,向执法人员提供调查工具。
另外 1 家也报道了
- The Verge AI 报道
推荐理由:部分企业可免费使用分类器;ChatGPT 用户将遇到明确的警告与暂停账号措施,开发者和执法人员也有对应工具。