用 AWS CDK 编排 SageMaker AI 端点自动扩缩容
针对 SageMaker AI 实时端点更新配置时 CloudFormation/CDK 部署失败的问题,AWS 给出一个可复用 CDK construct,用三个自定义资源在端点更新前后自动注销并重新注册 Application Auto Scaling 目标。
针对 SageMaker AI 实时端点更新配置时 CloudFormation/CDK 部署失败的问题,AWS 给出一个可复用 CDK construct,用三个自定义资源在端点更新前后自动注销并重新注册 Application Auto Scaling 目标。
Hugging Face 推出 torch-neuronx 模型支持 Space,可查询 Hub 上的热门模型能否在 AWS Trainium 上原样运行,并给出复现脚本。
微软与 Hugging Face 联合发布 ThinkingBox-Training,把 ThinkingBox 对数据库终态的校验结果直接当作强化学习奖励,用于智能体后训练。
推荐理由:微软与 Hugging Face 把数据库终态校验当作 RL 奖励,并公开了任务筛选与训练代码,可供做智能体后训练时参考。
针对 Amazon SageMaker AI 上自托管 TTS 端点自动扩缩容目标值靠猜的问题,该方案将 82M 参数的 Kokoro-82M 以自定义容器部署在实时端点上,用实测的单实例并发上限 Q_max 和端到端扩容耗时 T_total 通过算术推导出扩容阈值、缩容阈值与两个冷却时间。
AllenAI 发布 OlmoEarth v1.3 卫星嵌入模型,读取一年 Sentinel-1、Sentinel-2 和 Landsat 时序数据,为地球上每个 10 米像素生成 128 维向量,前 64 维也可单独使用。
IBM 基于四个开源 Granite 时序模型推出 Granite Timeseries Ensemble,提供统一预测接口,无需重训即可输出中位数与分位数预测。默认的 Probabilistic Ensemble 采用等权概率池化,另有按预测区间宽度加权的 IQR Ensemble 可选。该方案在 97 个 GIFT-Eval 数据集配置上完成评测,模型与配方均以宽松许可开放。
NVIDIA 扩展 Cosmos 平台,新增训练工具、仿真检查点和 Cosmos Data Factory 蓝图,用于世界模型的训练、评估与部署。
推荐理由:原文给出数据工厂蓝图、框架技能和 NIM 推理提速的具体变化,读者可据此判断世界模型开发链路的可用性。
AWS 解决方案架构团队开源了多智能体系统 Deep Insight,用于把 CSV 数据和自然语言提示自动转成带引用的 DOCX 分析报告,并总结出生产环境中的五类挑战及对应方案。
NVIDIA 发布预训练关系型基础模型 Kumo Relational,可直接在企业数据库上做预测,无需任务特定训练、特征工程或表扁平化。给定预测查询时,它最多读取 1 万个历史样本作为上下文,一次前向传播输出流失、需求或欺诈等结果。
推荐理由:官方披露了预训练关系型基础模型在 41 项基准上超越监督学习的结果,以及无需训练、直接查询数据库的使用方式。
NVIDIA 在 Hugging Face 上线 SimReady Central Library,汇集 2000 多个仿真就绪(SimReady)OpenUSD 资产,免费、无需申请即可用于物理 AI 训练环境和 AI 工厂数字孪生。
推荐理由:原文说明该库把 2000 多个带物理属性的 OpenUSD 资产放到 Hugging Face 免费开放,并给出 OEM 提交与场景搭建路径。
NVIDIA 扩展其开源模型家族,覆盖语言、机器人、生物和量子计算,包括新的 Nemotron 3.5 Super VL 与 Nemotron 3.5 Bolt。
推荐理由:NVIDIA 一次性铺开语言、机器人、生物、量子四条开源模型线,并给出可下载渠道与首批企业用例。
NVIDIA 发布 Cosmos3-H-Dreams,基于 Cosmos3-H-Embodied-Nano 训练,可从视频与机器人运动学中学习临床胆囊切除场景的实时生成仿真。
推荐理由:原文给出从桌面任务到临床胆囊切除场景的模型演进,并公开四步与两步检查点及适配自有数据的流程。
Ai2 发布 FairStress,一个衡量 LLM 在影响他人决策中人口统计公平性的基准,包含 300 个双候选人场景、29 个领域,组合身份呈现方式与对抗性前缀后扩展出超 1300 万个测试用例,并已集成进 Olmo-eval。
ALTK-Evolve 用 GPT-4.1 从智能体自身任务轨迹中提炼行为准则并追加到系统提示词,在 τ²-bench 零售任务上把基础 ReAct 智能体的 Pass^4 从 57.5% 提升到 67.5%,超过榜单上所有零售条目和微调模型 RAFT-30B-A3B 的 61.4%。
推荐理由:原文给出了同一套提示词级记忆在零售与航空两个客服域上的完整对照数据,可据此判断不更新权重也能提升智能体可靠性的路径。
Reflection AI 推出开源权重模型 Beam,面向智能体编码和长周期任务,可维护代码、调用工具并完成多步工作流。
推荐理由:Reflection AI 开源 Beam 的权重与部署路径,读者可据此了解其参数规模、上下文长度和 AWS 落地方式。
美国新实验室 Reflection 的首个模型 Beam 在 Hugging Face 开源,采用 MoE 架构,总参数 501B、每 token 激活 23B,支持 1M token 上下文,Apache 2.0 许可,面向编码与智能体场景。
推荐理由:Hugging Face 给出 Beam 的架构细节、量化版本与 vLLM/SGLang 部署命令,可据此评估自托管成本。
NVIDIA 联合 IIT Madras 的 AI4Bharat 发布 Nemotron-pretraining-Indic-v1,覆盖 22 种印度语言、约 2.8 万亿 token,并同步开放用于生成该语料的 GPU 加速数据生成流程。
推荐理由:原文公开了约 2.8 万亿 token 的语料构成与完整生成流程,读者可据此评估 Indic 预训练数据的可复用程度。
Meta 的编码优化开源权重模型 Muse Spark Open 现已在 Amazon SageMaker JumpStart 上线,可在自己的 AWS 账户中部署到 SageMaker AI 端点。
Black Forest Labs 发布 FLUX.3 Image Klein,一个模型同时支持文生图、多参考图生图和边界框布局控制,Diffusers 首日即可运行。
推荐理由:FLUX.3 Image Klein 在 Diffusers 首日支持,并新增用边界框控制画面布局的能力,读者可据此了解文生图与图像编辑的新交互方式。
Mistral 发布首个时间序列基础模型系列 Timestral,最大模型仅 209M 参数,在 GIFT-Eval、TIME、fev-bench 三个公开基准上均排名第一,超过此前 SOTA 且参数量只有其三分之二。
推荐理由:Mistral 首次进入时间序列基础模型领域,给出四个尺寸与三项基准排名,可据此判断小参数模型在预测任务上的可用性。
NVIDIA 发布 Nemotron 3.5 Super VL,这是一个 120B 参数的开源模型,面向持续在线的专用智能体,官方称其吞吐量最高可达同类模型的 5 倍。
推荐理由:原文给出三款开源模型的参数规模、部署层级与多家机构的微调案例,可据此判断开源智能体模型从数据中心到端侧的覆盖方式。
亚马逊云科技介绍如何用 Amazon Bedrock AgentCore 构建智能体式 IDP 系统,通过 8 个专用智能体在两条图工作流中完成文档分类、提取、校验与学习,新格式无需手工配置模板。系统可自动处理供应商发票、采购订单、保险理赔等新文档类型,并复用已学到的提取指令,官方称通常可在 20 分钟内完成部署。
Ai2 发布 HiRO-ACE 系统的新版本 HiRO-ACEv2,其新的降尺度模型 HiROv2 可同时预测多个高分辨率场,不再只限于降雨,并能更准确地还原极端降雨、风速和气压事件。
基于 Amazon Bedrock AgentCore 构建的 AI 智能体系统可将季度报告、合规文档等自动生成 PowerPoint 演示文稿,内部测试中耗时不到 90 秒。
GitHub 为密钥扫描训练了基于 ModernBERT 的上下文感知分类器,替代此前的 LLM 流水线,使推送后扫描中位执行时间降低 86%、服务成本降低超 98%,用户对告警的接受度提升 11.5%。该方案采用两阶段流水线:先用正则表达式高召回生成候选,再由微调后的 ModernBERT 结合文件路径、变量名和上下文判断是否为真实凭证,从而过滤占位符、测试样例等硬负例。
Liquid AI 发布 LFM2.5-24B-A2B,一个 24B 参数、每 token 仅 2B 激活参数的推理模型,面向端侧私有智能体,会先思考再作答并调用工具。
推荐理由:LFM2.5-24B-A2B 以 2B 激活参数对标更大 MoE,并给出端侧与 GPU 推理速度数据,可据此判断本地智能体的可行性。
AWS 发布面向多节点部署的 Ray LLM Deep Learning Containers,可在 Amazon EKS 上把单个大语言模型拆分到两个 GPU 节点,以 prefill/decode 分离方式共用一个 OpenAI 兼容端点。
AWS 发布 llama.cpp 专用深度学习容器(DLC),可在 Amazon SageMaker AI 上以 CPU 或 GPU 托管量化模型,并通过 InvokeEndpoint 提供 OpenAI 兼容的 chat completions。
阿布扎比技术创新研究院(TII)发布 Falcon-ASR,一款 1.6B 参数的语音识别模型,重点覆盖阿联酋方言,同时支持英语、法语、西班牙语和葡萄牙语。
Liquid AI 发布 d1 决策模型家族的两款开源权重模型 d1-3B 和实验性的 d1-omni-600M。
推荐理由:Liquid AI 开源两款决策模型,给出端侧与 GPU 延迟数据及基准对比,可据此判断小模型做快速结构化决策的可行性。
微软研究院亚洲团队开源 Agent Lightning v1.0,提出 Harnessed Agentic RL 训练范式,让部署时使用的 agent harness 直接参与强化学习,无需在训练框架内重新实现 agent。
推荐理由:微软研究院开源 Agent Lightning v1.0,用约 3500 行代码把真实 harness 直接接入 RL 训练,并给出 6000 样本提升 14.6 个百分点的完整流程。
Falcon-Emirati-7B 发布,这是一个基于 Falcon-H1-Arabic 的方言专用模型,专门理解和生成阿联酋阿拉伯语,覆盖词汇、语气与文化语境。
Ai2 开源 AstaBrief 8B,一个把研究问题和检索到的文献片段转成带引用报告的模型,已在 Asta 的 Generate a report 功能中以 Fast 模式上线,同时开放模型权重和训练数据。
推荐理由:原文给出 AstaBrief 的训练数据构造与过滤细节,读者可据此判断小模型做科学报告生成的可行路径。
AWS Professional Services 构建了一套四智能体模式,在 Amazon Bedrock AgentCore 上运行,将基础设施即代码(IaC)开发时间从每个应用 3 到 4 周缩短至几分钟。
Google DeepMind 推出 SynthID Bio,将水印技术引入合成生物学,把不可感知的签名直接嵌入生物代码,使水印不仅能在数字模型上验证,也能在合成出的实体蛋白质上验证,同时实验室测试显示其生物功能未受影响。
推荐理由:DeepMind 把水印从数字内容延伸到合成生物,读者可了解其原理与生物安全筛查的衔接方式。
H 公司发布 Holo4 系列智能体模型,包含 27B dense 和 35B-A3B MoE 两个版本,均已上线 H Models API,权重以 BF16、FP8、NVFP4 和 4-bit GGUF 格式开源在 Hugging Face,同时发布基于 Nemotron 3 Nano Omni 的 Holotron4 Nano。
推荐理由:Holo4 同时支持 GUI、代码、MCP 与 API 四种接口,并公开全部评测轨迹,读者可据此判断通用计算机智能体的成本与能力边界。
微软研究院对移动操作机器人工作负载做了系统性测量,发现把物理 AI 推理从机器人端侧 GPU 卸载到边缘或云端 GPU 能提升任务成功率、支持更大模型并延长续航。
推荐理由:微软研究院系统测量了机器人端侧 GPU 推理的瓶颈,并给出可复用的 Kubernetes 卸载工具链,读者可据此判断物理 AI 的部署取舍。
微软研究院在 Nature 发表逆向合成模型 RetroChimera,它结合 Transformer 模型 R-SMILES 2 与图神经网络 NeuralLoc,用学习式集成排序整合两者预测。
Google Research 发布 MilleMiglia,一个用 C++ 编写的实例生成器,用于为中段物流配送问题生成真实且保护隐私的基准数据,源码与文档已在 GitHub 公开。
微软发布 GigaPath-Flash 和 GigaTIME-Flash 两个高效病理基础模型,均采用从原十亿参数 GigaPath 编码器蒸馏出的 22M 参数 ViT-S 骨干,并以 Apache 2.0 许可开源。