OpenAI 说明如何加固前沿模型训练环境的安全隔离
OpenAI 说明其如何加固前沿模型训练与评测环境的隔离，包括离线环境和需要大量算力的红队测试。原文未披露具体技术细节和部署范围。
#安全/对齐
OpenAI NewsAI 评分5252
OpenAI NewsAI 评分2222 OpenAI 与波兰 NASK 合作推进 AI 安全与保障
OpenAI 与波兰 NASK 建立合作，聚焦 AI 安全、安保与技术研究，以强化防护措施并支持更具韧性的数字生态。
AWS Machine Learning BlogAI 评分3636 在 HIPAA 合规环境中部署 AI：Amazon Quick 的 PHI 数据治理能力
Amazon Quick 是 AWS 的 HIPAA-eligible 服务，其 Web、桌面和移动客户端均可在签署 AWS BAA 后用于处理 PHI。该平台通过 ACL 感知检索、聊天与反馈日志，以及对每个 chat agent 操作权限的控制来满足治理需求，并支持通过 MCP 添加自定义工具。
OpenAI NewsAI 评分2222 OpenAI 提出前沿 AI 民主治理蓝图第二部分：赋能网络防御者
OpenAI 发布前沿 AI 民主治理系列第二部分，提出通过前沿 AI、更强防护措施、现代化网络安全和更具韧性的公共机构来赋能网络防御者。该蓝图聚焦于让防御方获得前沿 AI 能力，同时配套更完善的保障机制。
OpenAI NewsAI 评分3232 OpenAI「Patch the Planet」：用智能体发现关键漏洞并协调全球响应
OpenAI 推出「Patch the Planet」，连接安全研究员、维护者与事件响应人员，共同处理开源软件中的关键漏洞。该计划让智能体参与漏洞发现，并配套全球响应协调机制。
NVIDIA BlogAI 评分5858 NVIDIA 扩展 Confidential Computing，推出 Confidential Bare Metal 部署选项
NVIDIA 扩展 Confidential Computing，新增 Confidential Bare Metal 部署选项，让前沿模型构建方在第三方裸金属基础设施上运行敏感负载并保留对模型和数据的控制。
AWS Machine Learning BlogAI 评分3636 Octave 如何基于 Amazon Bedrock 构建安全的多租户 AI 基础平台
Octave 在 Amazon Bedrock 上用 Cohere Embed v4 构建三层多租户 AI 基础平台，将每个用例的部署时间缩短 50%。该平台为 Reliance 质量管理系统的 650 多家企业客户嵌入 2 亿级文档，并通过 AgentCore Gateway 隔离执行、Bedrock Guardrails 双重过滤保障租户数据不越界。
Hugging Face BlogAI 评分5858 Ai2 发布 FairStress 基准，评测 LLM 决策中的公平性
Ai2 发布 FairStress，一个衡量 LLM 在影响他人决策中人口统计公平性的基准，包含 300 个双候选人场景、29 个领域，组合身份呈现方式与对抗性前缀后扩展出超 1300 万个测试用例，并已集成进 Olmo-eval。
AWS Machine Learning BlogAI 评分4040 在 AWS 上用 X.509 PKI 保障 AI 智能体身份安全
AWS 与 Keyfactor 联合发布参考架构，用 Keyfactor EJBCA 的 X.509 PKI 为基于 MCP 的 AI 智能体建立加密身份，填补 MCP 无内置认证标准的缺口。
AWS Machine Learning BlogAI 评分5858 AWS 提出 Trust in Depth：让智能体获得更多自主权而不失控
AWS 副总裁 Shawn Bice 提出 Trust in Depth 框架，主张用 Scope、Know、Bound、Observe 四层机制让智能体在可验证的边界内自主行动，把人工审批留给真正需要判断的决策。
AWS Machine Learning BlogAI 评分2222 Tamnoon 如何用 Amazon Bedrock 构建 AI 驱动的云安全修复平台 Tami
Tamnoon 基于 Amazon Bedrock 构建了智能体式云修复编排器 Tami，可自主调查 CNAPP 等来源的安全发现并评估修复安全性，再生成带护栏和回滚指引的修复方案。该方案在 90 天内将关键云暴露减少超过 90%，且未引发任何生产问题。Tami 由调查、安全评分、修复和代码生成四个专用智能体组成，通过单一 API 按任务调用不同基础模型。
Google DeepMind精选AI 评分6262 Google DeepMind 与新加坡政府合作构建反诈检测微调模型
Google DeepMind 与新加坡政府科技局（GovTech）合作，基于轻量级 Gemma 模型微调出端侧反诈检测模型，可在新加坡常见智能手机上运行。该模型在设备本地处理对话数据，通过两阶段流水线先由轻量分类器筛查消息，再用微调 Gemma 分析对话上下文确认威胁，检测到操纵性对话模式时实时提醒用户。
推荐理由：Google DeepMind 与新加坡政府合作的端侧反诈模型，展示了隐私保护与本地威胁检测如何兼顾。
Google DeepMind精选AI 评分7878 Google DeepMind 发布 Gemini 4 Argon 并公开安全防护方案
Google DeepMind 开始广泛推送 Gemini 4 Argon，并扩大 Fairwind Program 至更多可信网络安全防御方。该模型在网络安全测试中完成全部 12 个端到端模拟攻击场景（上一代为 5 个），在 Gray Swan 间接提示注入基准上把 15 次自适应攻击的成功率降至 0.7%。
推荐理由：原文披露了 Gemini 4 Argon 在网络安全与生物风险上的能力提升及三层实时防护设计，可了解前沿模型安全部署的具体做法。
GitHub Blog · AI & MLAI 评分3838 GitHub 如何用 ModernBERT 分类器减少密钥扫描误报
GitHub 为密钥扫描训练了基于 ModernBERT 的上下文感知分类器，替代此前的 LLM 流水线，使推送后扫描中位执行时间降低 86%、服务成本降低超 98%，用户对告警的接受度提升 11.5%。该方案采用两阶段流水线：先用正则表达式高召回生成候选，再由微调后的 ModernBERT 结合文件路径、变量名和上下文判断是否为真实凭证，从而过滤占位符、测试样例等硬负例。
OpenAI NewsAI 评分5858 OpenAI 处置两起 AI 驱动的虚假媒体影响力行动
OpenAI 处置了两起借助 AI 开展的影响力行动，这些行动利用虚假媒体身份和一家智库传播地缘政治信息。材料未披露行动涉及的具体模型、账号数量或处置方式。
AWS Machine Learning BlogAI 评分3434 Amazon Quick 与 Amazon Bedrock 如何用实时 ACL 重构 RAG 访问控制
Amazon Quick 与 Amazon Bedrock Knowledge Bases 在原有预检索 ACL 过滤之上新增实时 ACL 校验，在查询时直接向权威数据源核实权限，避免依赖可能过期或映射错误的 ACL 数据。
GitHub Blog · AI & ML精选AI 评分6262 GitHub 推出基于 ModernBERT 的通用密钥检测模型，扩展 push protection
GitHub 发布与 Microsoft Applied Sciences 联合微调的 ModernBERT 分类器，用代码上下文识别无固定格式的密钥，候选批次评估耗时低于 2 毫秒，可将可拦截的密钥数量提升一倍以上。
推荐理由：GitHub 公开了九季度密钥泄露数据，并给出用分类器把防护前移到 push 环节的具体做法与开放节奏。
AWS Machine Learning BlogAI 评分2222 Qlik 如何用 Amazon Bedrock 构建企业级可信 AI
Qlik 基于 Amazon Bedrock 打造 Qlik Answers，为全球超 4 万名客户提供带来源引用的企业级问答。其 Discovery Agent 上线以来已为客户发现超 10 万条异常与离群点，多数启用智能体工具的 Qlik Cloud 账户已在日常使用。
AWS Machine Learning BlogAI 评分2222 AWS 如何帮助客户对齐 ISO/IEC 42005:2025 负责任 AI 治理
AWS 发文解读国际标准 ISO/IEC 42005:2025，说明客户如何将 AI 系统影响评估纳入企业风险管理体系。该标准覆盖评估全生命周期，Annex D 提供与现有 IT 影响评估流程整合、避免重复的方法，Annex E 提供独立实施模板。
Google ResearchAI 评分3434 Google 发布智能体隐私与安全研讨会报告：从上下文完整性视角看开放问题
Google 发布《智能体隐私与安全中的开放与新兴问题：上下文视角》研讨会报告，汇集 50 多位学界与业界专家，于 2025 年底在纽约举行的 CAPS 研讨会上完成。报告基于上下文完整性（CI）理论，提出以实时动态策略引擎作为监督层，在执行前评估智能体数据流与动作是否合乎情境，并给出系统级沙箱、模型级推理、用户控制等多层防御方向。
Google Research精选AI 评分6262 Google 发布基于 TEE 的新一代联邦学习系统
Google 宣布新一代联邦学习系统，利用可信执行环境（TEE）为数据匿名化提供可验证、可审计的保证，并已由 Gboard 采用。系统通过访问策略公开透明日志 Rekor、KMS 密钥管理与可复现构建，让外部审计者能核查服务端实际运行的代码。Gboard 已用该系统上线英语和日语下一词预测模型，训练瓶颈从设备端转移到服务端，计算时间较此前系统显著加快。
推荐理由：Google 公布基于 TEE 的新一代联邦学习系统设计，并给出 Gboard 已上线的落地情况，可了解隐私可验证训练的实现路径。
Google DeepMind精选AI 评分6666 Google DeepMind 推出 SynthID Bio，为 AI 生成蛋白质嵌入水印
Google DeepMind 推出 SynthID Bio，将水印技术引入合成生物学，把不可感知的签名直接嵌入生物代码，使水印不仅能在数字模型上验证，也能在合成出的实体蛋白质上验证，同时实验室测试显示其生物功能未受影响。
推荐理由：DeepMind 把水印从数字内容延伸到合成生物，读者可了解其原理与生物安全筛查的衔接方式。
OpenAI NewsAI 评分5858 OpenAI 阻断一次协同模型蒸馏活动
OpenAI 披露其阻断了一次协同的模型蒸馏活动，该活动试图提取受保护的模型推理能力。OpenAI 表示正在加强对对抗性蒸馏的防御。
Hugging Face BlogAI 评分3232 Hugging Face 发布 ProvenanceGuard：面向 MCP 智能体的来源感知事实核查
Hugging Face 发布 ProvenanceGuard，一个运行在黑盒 MCP 智能体之上的生成后验证层，用于识别"跨来源混淆"——即事实本身为真但被归因到错误来源。在 281 条医疗智能体真实 trace 上，专家判定应拦截的 139 条 claim 中它拦下 138 条，来源识别准确率约 86%，并在与四种核查器的对比中取得最高分。
GitHub Blog · AI & ML精选AI 评分6262 GitHub Security Lab 发布 Fuzzing Taskflow 智能体
GitHub Security Lab 发布 Fuzzing Taskflow，一个面向 C/C++ 项目的自主模糊测试流水线，只需指向一个 GitHub 仓库，智能体便会识别入口点、分析构建系统、编写 harness、运行 AFL++、读取覆盖率报告并改进 harness，最后对每个崩溃做分诊并生成漏洞报告。
推荐理由：GitHub Security Lab 把模糊测试的 harness 编写、覆盖率追踪与崩溃分诊交给 LLM 智能体，读者可了解其分层设计与安全边界。
Google DeepMind精选AI 评分6262 Google DeepMind 为 Private AI Compute 引入服务端持久记忆
Google DeepMind 公布 Private AI Compute 的新技术更新，将为其平台带来私有化的服务端持久记忆，实现跨设备的长期上下文连续性。该架构把数据封存在加密存储中，解密密钥仅保留在用户个人设备上，模型需要访问时通过端到端加密通道连接受信任执行环境，在隔离内存中临时解密、处理并立即重新加密。
推荐理由：原文说明了云端持久记忆如何用设备端密钥与安全隔离环境兼顾跨设备连续性与隐私，读者可据此判断个人 AI 助手的记忆架构走向。