ChatGPT因暴力威胁禁用青少年账户，随后向家长说明原因

区块链文库报道：

OpenAI家长警报

当青少年因违反关于暴力威胁或行为的规则而失去ChatGPT访问权限时，OpenAI将向关联的家长发出警报，以此扩展其家庭安全控制功能。

关键要点

1. 关联家长将在青少年账户因严重暴力相关违规被停用后收到警报。

2. 通知提供了更多背景信息，但不透露青少年的私密对话。

3. 家长还可以启用学习模式，而青少年用户将看到更频繁的休息提醒。

OpenAI于7月16日宣布了这一变化，称当系统根据涵盖暴力威胁或在线暴力行为的政策停用关联的青少年账户时，将触发通知。家长或监护人将首先看到关于该账户的“重要更新”。随后，警报可以打开一个更详细的说明，指出该账户因违反公司的暴力规则而被禁用。通知不会包含青少年的聊天记录或透露具体的私密对话。

OpenAI在2025年引入了家长控制功能，允许成年人与青少年子女的账户进行关联。家长可以设置静音时段并限制敏感内容。当ChatGPT检测到可能的自残迹象时，他们也会收到警报。

最新更新还允许家长从控制面板激活学习模式，使引导式问题和逐步辅助成为新聊天的默认设置。长时间停留在ChatGPT中的青少年将收到更频繁的休息提醒。

OpenAI与监控和打击在线暴力的组织Moonshot合作开发了暴力通知功能。

ChatGPT安全背景

Moonshot的创始人兼首席执行官Vidhya Ramalingam表示，家长通知让家庭有机会在严重问题升级之前进行干预。她说：“当出现严重问题时通知家长，并提供获取更多背景信息的途径，这是关键的第一步。”

该功能之所以重要，是因为仅靠账户强制执行可能会移除访问权限，却没有让负责任的成年人介入。OpenAI表示，这种方法旨在支持线下对话，同时保护青少年用户的隐私。

此次扩展是在2026年2月10日不列颠哥伦比亚省坦布勒里奇的大规模枪击事件引发审查之后进行的。OpenAI曾于2025年6月因暴力活动违规封禁了嫌疑人的账户，但未通知执法部门，随后Sam Altman于4月24日公开道歉。

家长警报并未解决何时应联系当局的问题，但它增加了一个直接的警告渠道，这一渠道在该账户被封禁时并不存在。