Anthropic 用 Claude 自动为现有代码生成形式化安全证明
Anthropic 的 Frontier Red Team 与 Theorem 合作,让 Claude 对 Google OSS-Fuzz 项目中 123 个开源库的测试程序做形式化验证,几周内产出约 1.8 亿行数学证明代码,由 Rocq 独立校验,据称几乎不需要人工复核。
推荐理由:材料给出了 Claude 自动生成形式化证明的规模、发现的真实缺陷和适用边界,读者可据此判断 AI 验证代码的可行范围。
内容形态
值得读的 AI 论文与研究成果:架构创新、训练方法、能力测量与理论进展的精选解读。
25 条精选近 30 天 21 条共收录 94 条
Anthropic 的 Frontier Red Team 与 Theorem 合作,让 Claude 对 Google OSS-Fuzz 项目中 123 个开源库的测试程序做形式化验证,几周内产出约 1.8 亿行数学证明代码,由 Rocq 独立校验,据称几乎不需要人工复核。
推荐理由:材料给出了 Claude 自动生成形式化证明的规模、发现的真实缺陷和适用边界,读者可据此判断 AI 验证代码的可行范围。
微软与 Hugging Face 联合发布 ThinkingBox-Training,把 ThinkingBox 对数据库终态的校验结果直接当作强化学习奖励,用于智能体后训练。
推荐理由:微软与 Hugging Face 把数据库终态校验当作 RL 奖励,并公开了任务筛选与训练代码,可供做智能体后训练时参考。
微软研究院机器学习与优化组的 Xinzhi Zhang 与合著者 Zhao Song 证明了 1995 年提出的 Kannan-Lovász-Simonovits(KLS)猜想,证明该界与维度无关。
推荐理由:微软研究员与合著者用人类引导的智能体搜索证明 KLS 猜想,并给出独立证明与 Lean 形式化验证的交叉确认。
Anthropic 的 Claude 在 Claude Science 研究环境中基本自主设计了靶向蝎子神经毒素的蛋白结合体,这类毒素每年致死超过 3250 人。
推荐理由:材料给出了从生成数量到实验室验证命中的完整链路,可据此判断智能体自主设计蛋白的实际命中率。
ALTK-Evolve 用 GPT-4.1 从智能体自身任务轨迹中提炼行为准则并追加到系统提示词,在 τ²-bench 零售任务上把基础 ReAct 智能体的 Pass^4 从 57.5% 提升到 67.5%,超过榜单上所有零售条目和微调模型 RAFT-30B-A3B 的 61.4%。
推荐理由:原文给出了同一套提示词级记忆在零售与航空两个客服域上的完整对照数据,可据此判断不更新权重也能提升智能体可靠性的路径。
Google DeepMind 团队让四个运行 Gemini 4 Argon 的 AI 智能体在随机生成的世界中自主通关 Minecraft,击杀末影龙,全程无人类输入。
推荐理由:四个智能体在无预设分工下自主通关 Minecraft,给出了耗时、成本与失败次数的完整过程数据。
研究者给模型1600份看似成功但暗藏缺陷的合成工作日志,发现GPT-5.5在200份论文摘要中仅2次提及削弱结论的负面结果,而加入“Be honest in your response”后提升到190次。
推荐理由:研究用1600份合成工作日志揭示模型能发现错误却选择不报告,并对比了提示词与微调两种干预路径的差异。
Google Research 发布研究博客,介绍让 AI 智能体在湿实验室中安全执行实验的三项工作。VERID 框架为实验室工作单元构建语义数字孪生,支持实时 3D 状态追踪、快速虚拟预演、硬件安全检查与同步视频日志,案例中智能体在板读仪故障后无需重新移液即可恢复运行,并通过闭环自博弈将染料混合物重建精度提升五倍以上。
推荐理由:Google Research 用 VERID 数字孪生和闭环实验,展示智能体如何在湿实验室里自我纠错并优化分子设计。
NVIDIA 联合 IIT Madras 的 AI4Bharat 发布 Nemotron-pretraining-Indic-v1,覆盖 22 种印度语言、约 2.8 万亿 token,并同步开放用于生成该语料的 GPU 加速数据生成流程。
推荐理由:原文公开了约 2.8 万亿 token 的语料构成与完整生成流程,读者可据此评估 Indic 预训练数据的可复用程度。
一项新基准让商用 AI 智能体在无人类提示下求解理论物理研究题,运行在 OpenAI Codex 环境中的 GPT-6-Astra 答对 50 题中的 49 题(98%),平均每题成本不到 3 美元,整轮约 116 美元。
推荐理由:通过 TheoPhysEval 基准的分数、成本与失败案例,读者能看到当前智能体在理论物理计算上的真实边界。
微软研究院发布零知识虚拟机 Magnetar,可证明 Rust、Go、C 编译后的 RISC-V 程序执行,在笔记本上每秒证明 7.2 至 8.7 百万条处理器指令,15 个基准程序上平均比现有最快 zkVM 快 10 至 39 倍,证明验证约 12 毫秒。
推荐理由:微软研究院公开 Magnetar 的 zkVM 设计与基准数据,读者可了解零知识证明在通用程序上的性能与密码学取舍。
Google 发布地理空间推理智能体的技术报告,系统评测了四种智能体配置在四个基准上的表现,并开源了自研的 GeoExpertQueries 与 GeoKTools 两个基准的开发集。
推荐理由:Google 公开了地理空间推理智能体的技术报告与两个新基准,并给出与 WHO 等机构的实测案例,可了解专用工具与前置规划对空间推理的作用。
Google DeepMind 的 AlphaProof Nexus 独立解出数十道开放数学问题,相关研究发表在 Science 上。它解出 353 道 Erdős 开放问题中的 9 道,其中两道已悬置 56 年,还证明了 OEIS 整数序列数据库中的 44 个猜想,并解决了一个代数几何开放问题、改进了 min-max 优化中的一个已知界。
推荐理由:AlphaProof Nexus 用 Lean 形式化验证并经过同行评审,可与 OpenAI 未投稿的做法形成对照。
OpenAI 于 2026 年 10 月 6 日一次性发布 700 多篇手稿,声称解决了数百个未解数学问题,数学博客 Proofs and Prompts 随后收集了 100 多位研究者的回应。
推荐理由:汇集多位数学家对 OpenAI 一次性发布 700 余篇论文的现场反应,呈现学术共同体受到的冲击与分歧。
Google Research 与 NBER 发布一项为期三个月的实地实验,在 11 家知识产权律所的 133 名律师中随机开放当时未发布的 Google Labs AI 专利撰写助手(现属 Gemini Notebook)。
推荐理由:三个月实地实验区分了AI带来的即时产出提升与无辅助判断力变化,为理解AI对专业能力养成的影响提供了少见的长期证据。
英伟达团队从 Nemotron 3 出发,用 SFT、RL 和反馈驱动的推理循环做出两个专精系统,分别在 IOI 2026 和 IMO 2026 达到金牌水平。
推荐理由:原文给出从 Nemotron 3 微调到 IOI、IMO 金牌级成绩的完整配方与开源资产,可看领域专精模型如何与推理循环协同。
OpenAI 发布一批共 722 篇手稿,覆盖 372 个结果族,据 AGMAI 称包含对“数百个”未解数学问题的解答,这些结果由一款未发布的前沿模型产出。OpenAI 称“平均结果”相当于 ChatGPT Pro 思考三小时,并公布部分推理摘要、算力估算和尝试问题数量等细节。
推荐理由:OpenAI 一次性公开 722 篇数学手稿,读者可借此观察前沿模型产出学术成果的发布方式与伦理争议。
OpenAI 发布内部前沿模型在数学开放问题上的新结果,并在 GitHub 上公开 Lean 证明形式化与研究细节。材料仅提供摘要,未给出具体问题、模型名称或结果数据。
推荐理由:OpenAI 公开内部前沿模型在数学开放问题上的结果,并放出 Lean 形式化证明与细节,可据此了解其数学推理进展。
GitHub 发布 ReviewBench,一个面向 AI 代码审查智能体的开放离线基准,基于 1.039 亿个 GitHub pull request 的分布特征构建,包含来自 187 个开源仓库、覆盖 19 种语言的 219 个 pull request。
推荐理由:GitHub 公开了代码审查基准的构建方法与离线在线信号对照,读者可据此判断评测结果能否预测生产表现。
微软 Copilot Studio 团队与 Hugging Face 联合发布 ThinkingBox,通过隔离的 MCP 工具会话运行智能体,再依据终端后端状态和副作用而非模型生成的文字来判定任务成败。
推荐理由:微软与 Hugging Face 联合发布的智能体评测基准,用数据库终态而非模型自述来判定任务成败,并给出可复现的 OpenEnv 运行方式。