事件 · 其他
OpenAI
OpenAI wants to stop deepfakes from overwhelming child abuse tiplines
OpenAI表示正在向经过审核的机构免费提供该工具的使用权限,并为开发者提供更多检测此类内容的指导,以及帮助培训执法人员利用AI开展调查。
2 篇报道2 个来源
报道 2
The Verge AI 报道
同事件
OpenAI 宣布儿童虐待图像识别工具,并向审核通过的机构免费开放
OpenAI 宣布一款分类器,称其可更好识别涉及儿童的虐待图像,并判断图像是否由 AI 生成。公司还将向经过审核的机构提供免费使用权限,为开发者提供检测指导,并协助培训执法人员使用 AI 开展调查。
另外 1 家也报道了
- TechCrunch AI 报道
TechCrunch AI 报道
精选
OpenAI 发布儿童性虐待影像识别工具,并为 ChatGPT 增加警告与临时封禁
OpenAI 向部分企业免费开放图像分类器 API,用于识别包括 AI 生成图像在内的儿童性虐待材料,并给审核人员提供判断分数。ChatGPT 将对试图获取儿童性化内容的用户显示警告,并暂停账号 24 小时;公司还发布开发者指南,向执法人员提供调查工具。
另外 1 家也报道了
- The Verge AI 报道
推荐理由:部分企业可免费使用分类器;ChatGPT 用户将遇到明确的警告与暂停账号措施,开发者和执法人员也有对应工具。