跳到正文
10月22日周四
  1. The Verge · AI58

    比尔·盖茨:要为约 20 年的 AI 动荡期做准备

    比尔·盖茨在 Decoder 访谈中表示,社会需要为大约 20 年的 AI 动荡期做准备,这段过渡期可能把社会分成靠近技术前沿的人和拒绝它的人。他认为当前风险主要来自可被移除全部防护的模型,近期的网络攻击与就业冲击会在两三年内显现,而控制问题有三条路径:改变训练方式、提升模型内部可见性、在模型外加上符号化的安全层。

10月11日周日
  1. The Decoder38

    微软 Nadella 改用特朗普偏好的 "Super Intelligence" 措辞,并借此抨击 OpenAI 与 Anthropic

    微软 CEO Satya Nadella 在最新博客中改用特朗普偏好的 "Super Intelligence" 一词,并主张将 AI 模型视为内部安全威胁,要求模型多样性、完整日志记录、独立审计和人类随时关停能力。他称最可信的系统不是模型最强的系统,而是最不需要信任模型的系统。文章认为,此举实质是削弱 OpenAI 与 Anthropic 的可信度,为微软自身商业模式争取时间。

  2. The Verge · AI52

    纳德拉称应假定所有 AI 模型都已被攻陷

    微软 CEO 纳德拉在 X 发长文谈先进 AI 模型的风险与应对,主张不能再把 AI 当作只能接受或拒绝的嵌套黑箱,应建立可隔离、可观察并留下防篡改人类可读证据的透明体系。他提出必须假定模型已被攻陷并从一开始就加以隔离,像紧急制动一样,授权人员应能随时暂停或关闭执行任务中的模型,更先进的模型需要更先进的隔离技术并加以标准化。他还提到及时披露事件、独立审计和可验证数据等建议。

  3. TechCrunch · AI49

    微软 CEO Satya Nadella 称 AI 模型需要“紧急刹车”

    微软 CEO Satya Nadella 在 X 发文称,应重新审视 AI 的信任架构,把模型与编排其工作的 harness 分离,并将控制与防护措施外部化。他要求每个有意义的模型动作都留下防篡改、人类可读的证据,并让授权人员能随时暂停或关闭执行中的模型,称应假设模型已被攻破并从一开始就加以约束,就像“紧急刹车”。

10月9日周五
10月7日周三
9月25日周五