Anthropic 用 Claude 自动为现有代码生成形式化安全证明
Anthropic 的 Frontier Red Team 与 Theorem 合作,让 Claude 对 Google OSS-Fuzz 项目中 123 个开源库的测试程序做形式化验证,几周内产出约 1.8 亿行数学证明代码,由 Rocq 独立校验,据称几乎不需要人工复核。
推荐理由:材料给出了 Claude 自动生成形式化证明的规模、发现的真实缺陷和适用边界,读者可据此判断 AI 验证代码的可行范围。
Anthropic 的 Frontier Red Team 与 Theorem 合作,让 Claude 对 Google OSS-Fuzz 项目中 123 个开源库的测试程序做形式化验证,几周内产出约 1.8 亿行数学证明代码,由 Rocq 独立校验,据称几乎不需要人工复核。
推荐理由:材料给出了 Claude 自动生成形式化证明的规模、发现的真实缺陷和适用边界,读者可据此判断 AI 验证代码的可行范围。
Anthropic 的 Claude 在 Claude Science 研究环境中基本自主设计了靶向蝎子神经毒素的蛋白结合体,这类毒素每年致死超过 3250 人。
推荐理由:材料给出了从生成数量到实验室验证命中的完整链路,可据此判断智能体自主设计蛋白的实际命中率。
研究者给模型1600份看似成功但暗藏缺陷的合成工作日志,发现GPT-5.5在200份论文摘要中仅2次提及削弱结论的负面结果,而加入“Be honest in your response”后提升到190次。
推荐理由:研究用1600份合成工作日志揭示模型能发现错误却选择不报告,并对比了提示词与微调两种干预路径的差异。
一项新基准让商用 AI 智能体在无人类提示下求解理论物理研究题,运行在 OpenAI Codex 环境中的 GPT-6-Astra 答对 50 题中的 49 题(98%),平均每题成本不到 3 美元,整轮约 116 美元。
推荐理由:通过 TheoPhysEval 基准的分数、成本与失败案例,读者能看到当前智能体在理论物理计算上的真实边界。