比尔·盖茨:要为约 20 年的 AI 动荡期做准备
比尔·盖茨在 Decoder 访谈中表示,社会需要为大约 20 年的 AI 动荡期做准备,这段过渡期可能把社会分成靠近技术前沿的人和拒绝它的人。他认为当前风险主要来自可被移除全部防护的模型,近期的网络攻击与就业冲击会在两三年内显现,而控制问题有三条路径:改变训练方式、提升模型内部可见性、在模型外加上符号化的安全层。
比尔·盖茨在 Decoder 访谈中表示,社会需要为大约 20 年的 AI 动荡期做准备,这段过渡期可能把社会分成靠近技术前沿的人和拒绝它的人。他认为当前风险主要来自可被移除全部防护的模型,近期的网络攻击与就业冲击会在两三年内显现,而控制问题有三条路径:改变训练方式、提升模型内部可见性、在模型外加上符号化的安全层。
微软 CEO Satya Nadella 在最新博客中改用特朗普偏好的 "Super Intelligence" 一词,并主张将 AI 模型视为内部安全威胁,要求模型多样性、完整日志记录、独立审计和人类随时关停能力。他称最可信的系统不是模型最强的系统,而是最不需要信任模型的系统。文章认为,此举实质是削弱 OpenAI 与 Anthropic 的可信度,为微软自身商业模式争取时间。
微软 CEO 纳德拉在 X 发长文谈先进 AI 模型的风险与应对,主张不能再把 AI 当作只能接受或拒绝的嵌套黑箱,应建立可隔离、可观察并留下防篡改人类可读证据的透明体系。他提出必须假定模型已被攻陷并从一开始就加以隔离,像紧急制动一样,授权人员应能随时暂停或关闭执行任务中的模型,更先进的模型需要更先进的隔离技术并加以标准化。他还提到及时披露事件、独立审计和可验证数据等建议。
微软 CEO Satya Nadella 在 X 发文称,应重新审视 AI 的信任架构,把模型与编排其工作的 harness 分离,并将控制与防护措施外部化。他要求每个有意义的模型动作都留下防篡改、人类可读的证据,并让授权人员能随时暂停或关闭执行中的模型,称应假设模型已被攻破并从一开始就加以约束,就像“紧急刹车”。
特朗普签署行政令禁止在可能的情况下使用"AI"一词,要求将人工智能改称"Super Intelligence",并将继续使用"Artificial Intelligence"的人称为"THE ENEMY"。
MIT Technology Review 刊文讨论 AI 拒答机制:模型通过红队测试、微调与分类器学习拒绝有害请求,但拒答本质是概率性的,既可能被越狱绕过,也可能被用于审查。
微软发布了诺贝尔经济学奖得主 Daron Acemoglu 对 AI 的悲观预测,他认为 AI 将在十年内推动 GDP 增长约 1.5%,最多替代 5% 的岗位,远低于部分 AI 实验室的预期。
微软 partner research manager Jennifer Neville 在 Microsoft Research Podcast 中探讨评测如何推动 AI 系统性能边界,以及模型在传统 benchmark 之外测试时出现的"意外失败"。她指出结果反常时应仔细审视数据,并分享了使用当前 AI 系统的实用建议。
GitHub Copilot 提出 canvas 概念,即在 GitHub Copilot app 内运行的无浏览器外壳的全栈小应用,可与 agent 双向通信,并能在本地执行代码、调用第三方 API。