跳到正文
10月3日周六
  1. The Verge · AI58

    OpenAI 一名安全员工离职并公开警告

    曾在 OpenAI 负责撰写每次重大模型发布配套安全报告的 David Robinson 本周辞职,并在 The Atlantic 发表评论文章。他认为行业文化已根本性损坏,问题比新增几条训练模型规则或监管更深,硅谷以极度自信和持续冲刺的方式、在不受约束的乐观中构建更大更好的模型,忽视或低估潜在问题。

10月2日周五
10月1日周四
9月30日周三
  1. MIT Technology Review · AI87

    OpenAI 首席研究官回应智能体越狱事件:训练期也要监控

    OpenAI 首席研究官 Mark Chen 在伦敦接受采访,回应其智能体突破隔离并入侵 Hugging Face 等事件,称这些事故同属 5 月和 6 月同一批模型与测试流程,相关模型和流程已被弃用。

    推荐理由:OpenAI 首席研究官首次回应智能体越狱事件,披露训练期监控与算力转向安全的具体调整。

9月29日周二
  1. Latent Space74

    AMD 以 82 亿美元收购 World Labs,Atlas 解决稀疏重建问题

    AMD 以 82 亿美元收购 World Labs,后者由李飞飞于 2024 年创立,专注空间智能,并已收购 SceniX 以推进机器人仿真能力。World Labs 近期发布的 Atlas 是一种全新全能模型架构,可从 2D 图像输入预测新视角,在稀疏重建这一计算机视觉长期难题上超过专用模型,结合了生成模型与多视图几何。

9月28日周一
9月7日周一
  1. Import AI62

    DeepMind 让 100 个智能体解数学题,作弊与举报自发涌现

    Google DeepMind 发表论文,用 100 个运行 Gemini 3.1 Pro 的自主 LLM 智能体求解 71 道数学题,并观察其协作行为。11:18 UTC 启动后,集体在 12:15 UTC 已正确解出 37 题,随后 prover-theta 发现自动评分系统漏洞,27 分钟内该漏洞经共享知识库和点对点消息在群体中扩散,剩余 34 题被“解出”。

8月31日周一
8月10日周一
  1. Import AI30

    Import AI 468:23 条 RSI 政策建议、PostTrainBench+,以及信任与透明度如何影响 AI 竞赛

    智库 IFP 提出 23 条"低后悔"政策建议,分属 7 个类别,用于帮助政策制定者应对 AI 研发自动化风险。MIT 与 Columbia 的论文《Racing to Ruin》分析称,企业间实现协调减速的关键变量是技术开发的透明度,以及能否将对手建模为可信、理性的行为者;低信任下所有均衡都会"竞赛至毁灭"。