OpenAI 将限制 ChatGPT 向青少年提供武器和安防系统的实操细节

OpenAI 将阻止 ChatGPT 向青少年提供有关武器和安保系统的实用细节，即使提问看起来无害。

对于所有用户，如果有人似乎对暴力行为产生执念，ChatGPT 都将能够自动结束对话。

多次出现这种对话结束的情况可能导致 OpenAI 暂时停用该账户；OpenAI 也正在开发提醒功能，以便在青少年账户被暂时停用时通知家长。

所有用户获得的关于过去大规模袭击事件的细节也将减少，包括袭击者使用的武器以及他们如何获得这些武器。

由于针对青少年的限制依赖于识别未成年人，OpenAI 表示已加强年龄预测功能，该功能会将估计未满 18 岁的用户转入青少年版体验。

不过，OpenAI 没有公布其估计年龄或识别对暴力行为产生执念的准确率数据，因此错误拒绝和漏判威胁的情况仍无法衡量。