Anthropic更新Claude政策:禁虐待模型与选举干预
先了解这件事
Anthropic一年多来首次更新Claude使用政策,新增禁止对模型实施持续且无必要的虐待或残忍行为,并禁止干预选举、开发武器软件和监控等高风险用途。Anthropic称,虐待条款仅适用于极端情况,即用户反复以无明显目的的方式残忍对待模型,不涉及常见的用户不满、反驳、黑暗创作主题或模型测试研究;终止对话仍是主要执行机制。 新政策还禁止利用Claude运营虚假账号或伪造新闻媒体,并设“不要破坏民主进程”章节,禁止欺骗选民或扰乱选举。Anthropic表示,对于与某些政府客户的合同,若其判断合同使用限制和保障措施足以减轻潜在危害,这些规则可能被修改。 据The Decoder报道,违规者可能被警告、限流、限制、暂停或终止访问;武器禁令扩展到软件和无人机武器化,并更明确禁止未经同意的监控。
AI 根据报道生成 · 17 天前更新
报道时间线
沿着报道,了解事件的不同侧面。
- The DecoderAnthropic 更新 Claude 使用政策,持续辱骂模型可致账号被封
Anthropic 一年多来首次更新 Claude 使用政策,新增禁止对 Claude 进行持续且不必要的辱骂或残忍行为,违规者可能被警告、限流、限制、暂停或终止访问。公司称该条款不适用于常见的用户不满、反驳、黑暗创作主题或模型测试研究,仅针对极端情况。政策同时把虚假账号与误导性政治内容纳入宣传禁令,将武器禁令扩展到软件和无人机武器化,并更明确禁止未经同意的监控。
- TechCrunch · AIAnthropic 更新使用政策:禁止模型滥用与干预选举
Anthropic 更新使用政策,新增禁止干预选举、武器软件和监控等条款,并明确禁止用户对模型进行长期言语辱骂。该政策称仅适用于用户反复恶意辱骂模型且无明确目的的极端情况,不涉及常见的用户不满、反驳或黑暗创作主题。政策还禁止利用 Claude 运营虚假账号或伪造新闻媒体,并设“不要破坏民主进程”章节禁止欺骗选民或扰乱选举。
- The Verge · AIAnthropic 更新使用政策,禁止对 Claude 的持续虐待行为
Anthropic 一年多来首次更新使用政策,新增禁止对 Claude 实施持续且无必要的虐待或残忍行为,终止对话仍是主要执行机制,该条款仅适用于极端情况,不涉及常见的用户不满、反驳、黑暗创作主题或模型测试研究。