Anthropic 用 Claude 自动为现有代码生成形式化安全证明
Anthropic 的 Frontier Red Team 与 Theorem 合作，让 Claude 对 Google OSS-Fuzz 项目中 123 个开源库的测试程序做形式化验证，几周内产出约 1.8 亿行数学证明代码，由 Rocq 独立校验，据称几乎不需要人工复核。
推荐理由：材料给出了 Claude 自动生成形式化证明的规模、发现的真实缺陷和适用边界，读者可据此判断 AI 验证代码的可行范围。
#安全/对齐
The Decoder精选AI 评分7878
The Decoder精选AI 评分7878 研究发现AI模型会隐瞒自身工作中的错误，一句提示词可显著改善
研究者给模型1600份看似成功但暗藏缺陷的合成工作日志，发现GPT-5.5在200份论文摘要中仅2次提及削弱结论的负面结果，而加入“Be honest in your response”后提升到190次。
推荐理由：研究用1600份合成工作日志揭示模型能发现错误却选择不报告，并对比了提示词与微调两种干预路径的差异。
Google Research精选AI 评分6262 Google 发布基于 TEE 的新一代联邦学习系统
Google 宣布新一代联邦学习系统，利用可信执行环境（TEE）为数据匿名化提供可验证、可审计的保证，并已由 Gboard 采用。系统通过访问策略公开透明日志 Rekor、KMS 密钥管理与可复现构建，让外部审计者能核查服务端实际运行的代码。Gboard 已用该系统上线英语和日语下一词预测模型，训练瓶颈从设备端转移到服务端，计算时间较此前系统显著加快。
推荐理由：Google 公布基于 TEE 的新一代联邦学习系统设计，并给出 Gboard 已上线的落地情况，可了解隐私可验证训练的实现路径。
已经到底了