韩国用户中33%对聊天机器人使用辱骂性语言……Anthropic政策实施

区块链文库报道：

美国AI聊天机器人用户中33%曾发送辱骂或侮辱性言论

调查数据显示，在美国AI聊天机器人的使用者样本中，有33%的人曾至少一次向聊天机器人发送过脏话或侮辱性表达。

AI搜索分析公司Searchable于11月2日公布的分析结果指出，该研究基于获得事前同意的美国面板用户数据。研究人员对2025年9月起一年内，用户向ChatGPT、Gemini和Claude三大聊天机器人发送的超过800万条消息进行了分析，并统计了每位用户在发送的消息中是否包含脏话、侮辱或贬低性内容。

结果显示，样本中有33%的用户曾对其中任一聊天机器人发送过脏话或侮辱性言论。这一数据并非仅针对Claude用户的单独统计。在所有输入单词中，每1万个词里含有脏话、侮辱或贬低性表达的词汇平均为19.1个。

引发负面表达的主要原因包括：未执行指令（占19.0%）、提供错误答案（占18.1%）以及误解请求（占14.7%）。在带有脏话或侮辱内容的投诉后，聊天机器人在下一次回复中解决问题的比例为24%；而在没有脏话的纠正请求中，这一比例则上升至35%。

Anthropic更新使用政策以应对极端虐待行为

Anthropic于10月8日公开了用户政策的修订说明，新条款自11月12日起正式生效。

新规主要针对那些在没有明确目的的情况下，反复以极端残忍方式对待模型的案例。一般的抱怨、反驳、涉及黑暗主题的创作活动，以及对模型进行的测试与研究，均不在适用范围内。

主要的执行手段是“结束对话”功能。Anthropic此前曾表示，其消费者版聊天中的Claude Opus 4和4.1版本已具备识别并终止罕见且极端的虐待性对话的能力。当多次尝试扭转对话方向失败，且继续 productive 对话的可能性消失时，系统将把此功能作为最后手段启用。即使对话被强制结束，用户仍可开始新的对话。

此外，用户政策还规定，对于疑似违规行为，平台可采取警告、降低使用速度、限制访问，甚至暂停或终止服务等措施。Anthropic表示，此次针对虐待行为的应对措施主要依赖于对话终止功能。