Amazon SageMaker AI 多轮强化学习实操指南
AWS 发布在 Amazon SageMaker AI 上做多轮强化学习（MTRL）的端到端实操指南，以 Wordle 为例，把智能体和奖励函数部署到 Amazon Bedrock AgentCore，由 GRPO 更新 LoRA 适配器。
#推理
AWS Machine Learning BlogAI 评分5858
Hugging Face BlogAI 评分5858 VocabX 如何通过特化 SLM 词表将推理成本降低 77%
Dharma-AI 在 Hugging Face 博客中介绍即将发表的 VocabX 论文，称在不更换基座模型、数据和训练配方的前提下，围绕每个 token 的成本而非出现频率重建词表，使基于 Qwen3-4B 的葡语作文评分器实测推理成本下降 77.0%。
Hugging Face BlogAI 评分2828 TorchNeuron 性能剖析（上）：在 AWS Trainium 上做系统级性能分析
Hugging Face 博客发布《Profiling TorchNeuron》系列第一篇，讲解如何在 AWS Trainium 上用 TorchNeuron 系统分析推理性能。
Microsoft Research精选AI 评分7474 微软研究院等证明 31 年悬而未决的 KLS 猜想
微软研究院机器学习与优化组的 Xinzhi Zhang 与合著者 Zhao Song 证明了 1995 年提出的 Kannan-Lovász-Simonovits（KLS）猜想，证明该界与维度无关。
推荐理由：微软研究员与合著者用人类引导的智能体搜索证明 KLS 猜想，并给出独立证明与 Lean 形式化验证的交叉确认。
Hugging Face BlogAI 评分2828 TorchNeuron 性能剖析（上）：在 AWS Trainium 上做系统级性能分析
Hugging Face 博客发布《Profiling TorchNeuron》系列第一篇，讲解如何在 AWS Trainium 上用 TorchNeuron 系统分析推理性能。
Hugging Face BlogAI 评分5050 NVIDIA Kumo Forecast：结合预训练时序表示、历史模式检索与可解释性
NVIDIA 推出多变量时序预测模型 Kumo Forecast（原 NV-Tesseract Forecasting），基于 MOMENT-1-large 主干，约 3.4 亿参数编码器加可训练预测头，采用 Apache 2.0 许可开源。
NVIDIA Blog精选AI 评分6565 NVIDIA 扩展开源模型家族，覆盖语言、机器人、生物与量子计算
NVIDIA 扩展其开源模型家族，覆盖语言、机器人、生物和量子计算，包括新的 Nemotron 3.5 Super VL 与 Nemotron 3.5 Bolt。
推荐理由：NVIDIA 一次性铺开语言、机器人、生物、量子四条开源模型线，并给出可下载渠道与首批企业用例。
AWS Machine Learning BlogAI 评分4040 i14 的 Laplace 3B 线性注意力模型如何在 AWS Trainium2 上用原生 PyTorch 训练与推理
i14 与 AWS 合作，通过 TorchNeuron Native 的原生 PyTorch 支持，将采用 Gated Linear Attention 的 Laplace 3B 线性注意力模型移植到 AWS Trainium2，并保留其 GLA 设计与 Muon 优化器。
AWS Machine Learning BlogAI 评分4040 在 Amazon SageMaker HyperPod 上微调 GPT-OSS-20B 实现多语言推理
在 Amazon SageMaker HyperPod 上，团队用 SFT 与 GRPO 微调开源推理模型 GPT-OSS-20B，使其按指定语言进行链式推理。
Hugging Face Blog精选AI 评分6262 PyTorch 2.15 为 MPS 带来 FP8 与更快的 LLM 解码
Hugging Face 的 PyTorch 团队介绍 PyTorch 2.15 在 MPS 后端的更新，新增 float8_e4m3fn 张量与 F.scaled_mm，MoE 模型解码比 2.14 快 5–6.5 倍，Qwen3.6-35B-A3B 在 M3 Ultra 上从 9.4 提升到 61.3 tokens/s。
推荐理由：Hugging Face 的 PyTorch 团队给出 MPS 后端在 2.15 中的具体提速数字和内存变化，可据此判断 Mac 本地跑模型的实际收益。
AWS Machine Learning BlogAI 评分5555 AWS 在 vLLM 中实现双向 KV 传输，降低多轮智能体负载的 TTFT
AWS 为 vLLM 增加双向 KV 传输，让 decode 节点把已算好的 KV 回传给 prefill 节点，避免多轮对话中重复计算上下文。在 Amazon EC2 P5en 实例、EFA 网络、1P1D 部署的测试中，最长提示下 Qwen3-32B 的 TTFT 降低约 1.6 倍，zai-org/GLM-5-FP8 降低约 3.3 倍。
AWS Machine Learning BlogAI 评分4242 vLLM 推出基于 push 的 KV 传输，分拆推理 TTFT 最高提升 3 倍
vLLM 新增 push 模式的 NIXL connector，把 KV 传输的协调与准备工作移出首 token 关键路径，在 1P1D 的 Amazon EC2 P5en + EFA 部署上，Qwen3-32B 的 TTFT 最高提升 3 倍、TPOT 最高提升 30%。
AWS Machine Learning BlogAI 评分3434 Deepgram 如何借助 AWS Trainium 优化大规模语音 AI
Deepgram 与 AWS 合作将 Nova-3 语音转文字模型移植到 Trainium2，用于客服中心分析、医疗转录等离线批处理场景。最终配置在单台 Amazon EC2 trn2.3xlarge 实例上运行 8 个模型副本，每美元处理的音频量比原有算力方案提升 11%–70%。该优化也惠及在 Amazon SageMaker AI 上自托管 Deepgram 模型的客户。
Hugging Face Blog精选AI 评分6969 IBM 发布 Granite Switch 4.1：单端点实现对话、决策与语音
IBM 发布 Granite Switch 4.1，包含 Granite-Switch-4.1-8B 和 -30B，通过 Decision aLoRA、Guardian aLoRA 与 Granite-Speech-5.0-Turbo-CTC 在单一托管端点完成对话、决策与语音转写。
推荐理由：Granite Switch 4.1 把决策适配器与 ASR 模型组合进单一端点，读者可据此了解多能力复用同一基座的部署思路。
Microsoft Research精选AI 评分6262 微软研究院发布 Magnetar：基于证明的通用计算 zkVM
微软研究院发布零知识虚拟机 Magnetar，可证明 Rust、Go、C 编译后的 RISC-V 程序执行，在笔记本上每秒证明 7.2 至 8.7 百万条处理器指令，15 个基准程序上平均比现有最快 zkVM 快 10 至 39 倍，证明验证约 12 毫秒。
推荐理由：微软研究院公开 Magnetar 的 zkVM 设计与基准数据，读者可了解零知识证明在通用程序上的性能与密码学取舍。
Hugging Face Blog精选AI 评分6262 Apertus 1.5 发布：8B 和 70B 模型新增图像音频理解与思考模式
Apertus 1.5 在 8B 和 70B 模型上新增图像与音频理解、可选思考模式，上下文窗口扩展至 262,144 tokens，为 1.0 的 4 倍，并改进指令遵循与工具调用。
推荐理由：Apertus 1.5 在 8B 和 70B 上加入图像音频理解与思考模式，并公开训练数据与中间检查点，可据此判断开源多模态模型的开放程度。
Google Research精选AI 评分6969 Google 发布 Deep Review，用智能体审稿技术文档
Google 公开发布 Deep Review，一个面向复杂文档的智能体审稿系统，最初用于计算机科学论文分析，现已扩展到法律、金融等领域。每位用户每周可免费获得两次文档审阅，也可接入 Gemini API key 提升额度并通过 Deep Review API 做程序化集成；目前支持 PDF 和纯文本输入，多文件输入即将支持。
推荐理由：Google 公开了 Deep Review 的四阶段智能体审稿流程与免费额度，读者可据此判断自动审稿在自身工作流中的可用性。
Google DeepMind精选AI 评分7878 Google DeepMind 发布 Gemini 4 Argon 并公开安全防护方案
Google DeepMind 开始广泛推送 Gemini 4 Argon，并扩大 Fairwind Program 至更多可信网络安全防御方。该模型在网络安全测试中完成全部 12 个端到端模拟攻击场景（上一代为 5 个），在 Gray Swan 间接提示注入基准上把 15 次自适应攻击的成功率降至 0.7%。
推荐理由：原文披露了 Gemini 4 Argon 在网络安全与生物风险上的能力提升及三层实时防护设计，可了解前沿模型安全部署的具体做法。
Hugging Face Blog精选AI 评分7171 Liquid AI 发布 LFM2.5-24B-A2B 端侧推理智能体模型
Liquid AI 发布 LFM2.5-24B-A2B，一个 24B 参数、每 token 仅 2B 激活参数的推理模型，面向端侧私有智能体，会先思考再作答并调用工具。
推荐理由：LFM2.5-24B-A2B 以 2B 激活参数对标更大 MoE，并给出端侧与 GPU 推理速度数据，可据此判断本地智能体的可行性。
Google DeepMind精选AI 评分8787 Google DeepMind 发布 Gemini 4 Argon
Google DeepMind 发布 Gemini 4 Argon，今日起通过 Gemini API、AI Studio、Google Antigravity 及 Gemini 应用和搜索 AI Mode 面向开发者、企业和消费者开放，定价为每百万输入 token 2 美元、输出 token 10 美元。
推荐理由：官方给出 Argon 在编码、科研与安全对齐上的具体数字和开放入口，可据此判断前沿模型在长程任务上的进展。
Google DeepMind同新闻AI 评分8484 Google DeepMind 发布 Gemini 4 Argon 机器人模型
Google DeepMind 发布面向机器人的 Gemini 4 Argon，在测试 3D 物理空间问题的 Embodied Reasoning（ERQA）基准上以纯推理取得 87%，称超过其他前沿模型。
同一新闻，精选展示《Google DeepMind 发布 Gemini 4 Argon》
AWS Machine Learning BlogAI 评分2222 Amazon SageMaker AI 上的 MoE 内核工程优化实践
AWS 在 Amazon SageMaker AI 上针对融合 MoE 模型实现多项内核优化：通过 Swap-AB 转置矩阵乘法以匹配 NVIDIA Hopper 的 WGMMA 指令布局，在 H200 上为大规模 MoE 模型带来 2–4% 端到端输出吞吐提升，该优化已合入 vLLM 0.24.0 及更高版本。
AWS Machine Learning BlogAI 评分3838 用 Ray LLM Deep Learning Containers 在 Amazon EKS 上运行多节点推理负载
AWS 发布面向多节点部署的 Ray LLM Deep Learning Containers，可在 Amazon EKS 上把单个大语言模型拆分到两个 GPU 节点，以 prefill/decode 分离方式共用一个 OpenAI 兼容端点。
AWS Machine Learning BlogAI 评分2828 在 Amazon SageMaker AI 上用 llama.cpp 部署决策模型
AWS 发布 llama.cpp 专用深度学习容器（DLC），可在 Amazon SageMaker AI 上以 CPU 或 GPU 托管量化模型，并通过 InvokeEndpoint 提供 OpenAI 兼容的 chat completions。
Hugging Face Blog精选AI 评分6666 Liquid AI 开源 d1-3B 与 d1-omni-600M 端侧决策模型
Liquid AI 发布 d1 决策模型家族的两款开源权重模型 d1-3B 和实验性的 d1-omni-600M。
推荐理由：Liquid AI 开源两款决策模型，给出端侧与 GPU 延迟数据及基准对比，可据此判断小模型做快速结构化决策的可行性。
Hugging Face Blog精选AI 评分6262 Nemotron 微调后在 IOI 2026 与 IMO 2026 均达金牌水平
英伟达团队从 Nemotron 3 出发，用 SFT、RL 和反馈驱动的推理循环做出两个专精系统，分别在 IOI 2026 和 IMO 2026 达到金牌水平。
推荐理由：原文给出从 Nemotron 3 微调到 IOI、IMO 金牌级成绩的完整配方与开源资产，可看领域专精模型如何与推理循环协同。
OpenAI News精选AI 评分6060 OpenAI 公布前沿模型在数学开放问题上的进展
OpenAI 发布内部前沿模型在数学开放问题上的新结果，并在 GitHub 上公开 Lean 证明形式化与研究细节。材料仅提供摘要，未给出具体问题、模型名称或结果数据。
推荐理由：OpenAI 公开内部前沿模型在数学开放问题上的结果，并放出 Lean 形式化证明与细节，可据此了解其数学推理进展。
Microsoft ResearchAI 评分2222 微软研究员 Jennifer Neville 谈 AI 评测的意外失败与数据洞察
微软 partner research manager Jennifer Neville 在 Microsoft Research Podcast 中探讨评测如何推动 AI 系统性能边界，以及模型在传统 benchmark 之外测试时出现的"意外失败"。她指出结果反常时应仔细审视数据，并分享了使用当前 AI 系统的实用建议。
Mistral AI精选AI 评分8282 Mistral 发布 1 万亿参数多模态模型 Mistral Large 4 预览版
Mistral 发布 Mistral Large 4 公开预览版，这是一个 1 万亿参数、490 亿激活参数的原生多模态模型，可通过 Mistral Studio 的预览 API 试用，权重将于本月底放出。
推荐理由：Mistral 迄今最大模型以开放权重切入网络安全等企业场景，读者可据此判断欧洲开源路线的能力边界。
NVIDIA Blog精选AI 评分8080 NVIDIA GPU 加速 OpenAI GPT-6 Astra Ultrafast 上线
OpenAI 的 GPT-6 Astra Ultrafast 已在 NVIDIA Blackwell GPU 上运行，并面向 OpenAI API 以及符合条件的 ChatGPT Work 和 Codex 用户开放。
推荐理由：原文给出 Ultrafast 模式相对标准模式的提速幅度与开放入口，读者可据此判断它对编码智能体循环的实际影响。
AWS Machine Learning BlogAI 评分2828 Amazon Payments 如何用 Amazon SageMaker AI 上的上下文多臂老虎机提升获客漏斗转化
Amazon Payments 在 Amazon SageMaker AI 上用多目标上下文多臂老虎机（LinUCB）做产品获客漏斗个性化，七周线上 A/B 测试中，一个人群的漏斗末端转化率取得高个位数相对提升，另一个人群则未见改善，问题出在内容而非模型。
Google DeepMind精选AI 评分8383 Google DeepMind 发布 Gemini 4 Argon 前沿模型
Google DeepMind 发布新前沿模型 Gemini 4 Argon，先通过 Fairwind Program 向受信任的网络安全防御者开放，随后逐步扩展到开发者、企业和消费者，起价为每百万输入 token 2 美元、每百万输出 token 10 美元，缓存输入 token 按输入价的 95% 折扣计费。
推荐理由：官方给出 Argon 在编码、企业知识与网络安全上的基准与内部落地数据，可据此判断前沿模型的能力边界与分阶段开放节奏。
Hugging Face BlogAI 评分3636 Liquid AI 发布 LFM2.5-VL-DSpark 草稿模型，为 LFM2.5-VL-3B 加速
Liquid AI 发布实验性草稿模型 LFM2.5-VL-DSpark，为视觉语言模型 LFM2.5-VL-3B 加入投机解码路径，解码最高提速 3.13x（端侧）和 2.66x（H100），端到端最高提升 2.62x 和 2.27x。
Google ResearchAI 评分3636 Google Research 提出 Retrieve-for-Train：用 RL 编译扩散检索器绕过查询扇出推理瓶颈
Google Research 提出 Retrieve-for-Train 框架，通过离线强化学习发现奖励对齐的查询扇出并编译为监督信号，再蒸馏进一个 53.9M 参数的扩散检索器，实现推理时单次非自回归的查询扇出。
Microsoft ResearchAI 评分3838 MindTopo 基准揭示 VLM 空间推理能力短板
Microsoft Research 推出 MindTopo 基准，用于评测多模态大语言模型的拓扑推理能力，覆盖连通性、分离、顺序、包围与打结五类关系，并分为静态推理与交互规划两个层级。测试显示，现有闭源与开源模型在静态识别上明显优于交互规划，且均远低于人类水平；失败多发生在规划阶段而非感知阶段，模型在场景变化中会丢失结构关系或提出违反物理约束的动作。图像与视频生成仅在单帧保留结构约束时才有帮助。
Berkeley AI Research精选AI 评分6262 从 CUDA 到 MLX：K-Search 如何把内核优化经验带到 Apple Silicon
Berkeley AI Research 与 IBM Research 将 K-Search 进化式内核搜索框架扩展到 MLX，并加入结构化 CUDA-to-MLX 翻译层，让已有 CUDA 内核经验自动适配 Apple Silicon。
推荐理由：展示了把 CUDA 内核优化经验结构化迁移到 Apple Silicon 的方法，并给出注意力与 Mamba 两类内核的实测对比。
Berkeley AI ResearchAI 评分3434 Berkeley AI Research 提出 ABBEL：用信念状态监督 LLM 长程交互
Berkeley AI Research 提出 ABBEL 框架，将 LLM 智能体的摘要以自然语言"信念状态"形式隔离并监督，替代完整交互历史作为工作上下文。在 CollabBench 协作编程任务中，基于重建的信念评分（rec-BG）将 ABBEL 与全上下文模型的性能差距缩小约 50%，训练步数从 100 降至 50，峰值 token 长度也显著低于全上下文设置。
Berkeley AI ResearchAI 评分3232 自适应并行推理：高效推理扩展的下一个范式
伯克利 AI 研究团队梳理了并行推理领域进展，重点分析自适应并行推理——让模型自行决定何时分解并并行化独立子任务、生成多少并发线程以及如何协调。现有方法如 Self-consistency、Best-of-N、Tree of Thoughts、MCTS、ParaThinker、GroupThink、Hogwild! Inference 的并行结构多由外部设定，而非模型自主选择。
Berkeley AI ResearchAI 评分3333 GRASP：面向世界模型长时程规划的梯度规划器
Berkeley AI Research 提出梯度规划器 GRASP，通过将轨迹提升到虚拟状态实现跨时间并行优化、向状态迭代直接注入随机性以探索、并重塑梯度让动作获得清晰信号，同时避开高维视觉模型中脆弱的"状态-输入"梯度，使基于学习动力学（世界模型）的长时程规划变得实用。
Berkeley AI ResearchAI 评分3838 Berkeley AI Research 提出 SPEX 与 ProxySPEX：大规模识别 LLM 关键交互
Berkeley AI Research 提出 SPEX 与 ProxySPEX 算法，可在特征、数据与模型组件归因中大规模识别驱动 LLM 输出的关键交互。SPEX 利用稀疏性与低阶性将交互搜索转化为稀疏恢复问题，ProxySPEX 进一步借助层级结构，以约少 10 倍的消融次数达到 SPEX 的性能。