跳到正文
热点事件历史事件

Anthropic更新Claude政策:禁虐待模型与选举干预

3 篇报道3 个报道来源17 天前更新

先了解这件事

AI 综述

Anthropic一年多来首次更新Claude使用政策,新增禁止对模型实施持续且无必要的虐待或残忍行为,并禁止干预选举、开发武器软件和监控等高风险用途。Anthropic称,虐待条款仅适用于极端情况,即用户反复以无明显目的的方式残忍对待模型,不涉及常见的用户不满、反驳、黑暗创作主题或模型测试研究;终止对话仍是主要执行机制。 新政策还禁止利用Claude运营虚假账号或伪造新闻媒体,并设“不要破坏民主进程”章节,禁止欺骗选民或扰乱选举。Anthropic表示,对于与某些政府客户的合同,若其判断合同使用限制和保障措施足以减轻潜在危害,这些规则可能被修改。 据The Decoder报道,违规者可能被警告、限流、限制、暂停或终止访问;武器禁令扩展到软件和无人机武器化,并更明确禁止未经同意的监控。

AI 根据报道生成 · 17 天前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月9日
  1. The Decoder
    Anthropic 更新 Claude 使用政策,持续辱骂模型可致账号被封

    Anthropic 一年多来首次更新 Claude 使用政策,新增禁止对 Claude 进行持续且不必要的辱骂或残忍行为,违规者可能被警告、限流、限制、暂停或终止访问。公司称该条款不适用于常见的用户不满、反驳、黑暗创作主题或模型测试研究,仅针对极端情况。政策同时把虚假账号与误导性政治内容纳入宣传禁令,将武器禁令扩展到软件和无人机武器化,并更明确禁止未经同意的监控。

  2. TechCrunch · AI
    Anthropic 更新使用政策:禁止模型滥用与干预选举

    Anthropic 更新使用政策,新增禁止干预选举、武器软件和监控等条款,并明确禁止用户对模型进行长期言语辱骂。该政策称仅适用于用户反复恶意辱骂模型且无明确目的的极端情况,不涉及常见的用户不满、反驳或黑暗创作主题。政策还禁止利用 Claude 运营虚假账号或伪造新闻媒体,并设“不要破坏民主进程”章节禁止欺骗选民或扰乱选举。

  3. The Verge · AI
    Anthropic 更新使用政策,禁止对 Claude 的持续虐待行为

    Anthropic 一年多来首次更新使用政策,新增禁止对 Claude 实施持续且无必要的虐待或残忍行为,终止对话仍是主要执行机制,该条款仅适用于极端情况,不涉及常见的用户不满、反驳、黑暗创作主题或模型测试研究。