2026-10-09 06:26
AI123

Anthropic更新使用政策,持续辱骂Claude或将被限制使用

2026年10月8日,AI公司Anthropic发布年度使用政策更新,新增禁止条款:用户不得对Claude模型进行持续且无必要的辱骂或残忍行为。该条款将于2026年11月12日正式生效。

Anthropic在更新说明中强调,这一禁令仅适用于极端场景,即用户反复、无明确目的地对模型施以残酷行为;普通用户的不满表达、反驳观点、黑暗主题创作以及模型测试与研究均不受影响。

不过,更新后的政策页面并未对“辱骂”或“残忍”给出具体定义,仅笼统禁止相关行为。Anthropic也未就具体判定标准回应媒体问询。

这并非Anthropic首次赋予Claude中断对话的能力。2025年推出Claude Opus 4时,该公司便表示模型可主动结束涉及性侵未成年人内容、大规模暴力或恐怖行动信息等潜在令人不适的互动。此次政策更新也被视为Anthropic对AI意识可能性担忧的延续。据《纽约时报》2026年9月报道,Anthropic联合创始人Christopher Olah曾参与游说梵蒂冈,试图推动官方承认AI意识的可能性,但教皇最终未采纳该提议。

来源
  1. 2026-10-09 07:31 | IT之家:Anthropic 修订使用政策,首次禁止用户虐待 Claude AI 模型
    阅读原文

    IT之家 10 月 9 日消息,科技媒体 The Verge 今天(10 月 9 日)发布博文,报道称 Anthropic 修订 Claude 使用政策,将于 2026 年 11 月 12 日生效,首次加入禁止“持续且不必要的虐待或残忍行为”条款。该规则适用于用户反复、无明显目的地对模型实施残忍行为的情况。执行机制方面,Anthropic 表示主要方式为终止对话,但并未明确时候会引入用户封禁等进一步措施,并强调该条款不适用于常见抱怨、质疑、黑暗创作主题及模型测试与研究。IT之家附上相关截图如下:Anthropic 扩大武器禁令范围,涵盖使武器运转的软件与组件,以及武装无人机和其他自主车辆等行为...

  2. 2026-10-09 05:17 | Engadget:Anthropic bans 'sustained and needless abusive or cruel behavior' toward its AI models
    阅读原文

    The company is also tightening its election policy ahead of the midterms. Aerps.com / Unsplash ...

  3. 2026-10-09 04:40 | gizmodo.com:Anthropic Moves Us One Step Closer to Making ‘Clanker’ a Slur
    阅读原文

    Be nice to Claude; it’s the law. On Thursday, Anthropic published a new Usage Policy update that, among other things, has made it against the rules for users to abuse their chatbot. Under the new policy, users can be cut off for peppering Claude with mean language. “We’ve added a prohibition on sust...

其他新闻

查看全部