事件 · 发布
OpenAI
OpenAI releases a new image classifier and ChatGPT warnings to combat CSAM
OpenAI通过API免费向部分公司开放其用于识别儿童性虐待材料图像的分类器。
1 篇报道2 个来源
报道 1
TechCrunch AI 报道
精选
OpenAI 发布儿童性虐待影像识别工具,并为 ChatGPT 增加警告与临时封禁
OpenAI 向部分企业免费开放图像分类器 API,用于识别包括 AI 生成图像在内的儿童性虐待材料,并给审核人员提供判断分数。ChatGPT 将对试图获取儿童性化内容的用户显示警告,并暂停账号 24 小时;公司还发布开发者指南,向执法人员提供调查工具。
另外 1 家也报道了
- The Verge AI 报道
推荐理由:部分企业可免费使用分类器;ChatGPT 用户将遇到明确的警告与暂停账号措施,开发者和执法人员也有对应工具。