跳到正文
  1. Latent Space82

    月之暗面发布 Kimi K3.1 Pro:2.8T 总参数、104B 激活,承诺 11 月 4 日开放权重

    月之暗面发布 Kimi K3.1 Pro,这是一款 2.8 万亿总参数、1040 亿激活参数的多模态 MoE 模型,支持 100 万 token 上下文,标准版与 Highspeed 版已上线网站、App、Kimi Work、Kimi Code 和 API,Highspeed 号称输出速度提升 2–3 倍、价格为标准版两倍。

    推荐理由:汇总了 Kimi K3.1 Pro 的独立评测、定价与开源承诺,也保留了围绕推理成本和推广合规的争议。

  1. Latent Space82

    DeepSeek 开源推理框架 DeepInfer,称单集群日处理 155 万亿 token

    DeepSeek 开源生产推理框架 DeepInfer,支持分布式推理、投机解码、SWA Bounded Replay 和结构化输出,覆盖 NVIDIA 与华为昇腾平台,并同步发布 deepseek-recipe 处理 API 协议转换。

    推荐理由:DeepSeek 开源生产推理栈并披露单集群吞吐与单卡收入,vLLM 随后给出接近的复现数据,可对照看开源推理栈的真实差距。

  2. TechCrunch · AI76

    Google 开源 TorchTPU,让 PyTorch 应用无需重写即可跑在 TPU 上

    Google 宣布开源 TorchTPU,这是 PyTorch 面向 Google TPU 的版本,开发者只需修改配置、无需重写应用,就能把现有 PyTorch 应用迁移到 TPU 和 Google Cloud。

    推荐理由:Google 与 Amazon 先后推出 PyTorch 的 TPU、Trainium 适配版本,读者可据此观察 AI 芯片生态的竞争格局。

  3. Hugging Face Blog78

    Hugging Face 接入 TorchTPU,Transformers 与 Diffusers 原生支持 TPU

    Hugging Face 宣布通过原生 PyTorch 后端 TorchTPU 在自家生态中支持 TPU,Transformers、Diffusers 和 Kernels 可原生运行在 TPU 上,加载模型时传入 device_map="tpu" 或 pipe.to("tpu") 即可,不再需要 Optimum TPU。

    推荐理由:Hugging Face 官方说明 TorchTPU 让 Transformers 与 Diffusers 直接把 TPU 当作普通设备使用,并给出实测加速数据。

  1. Hugging Face Blog62

    PyTorch 2.15 为 MPS 带来 FP8 与更快的 LLM 解码

    Hugging Face 的 PyTorch 团队介绍 PyTorch 2.15 在 MPS 后端的更新,新增 float8_e4m3fn 张量与 F.scaled_mm,MoE 模型解码比 2.14 快 5–6.5 倍,Qwen3.6-35B-A3B 在 M3 Ultra 上从 9.4 提升到 61.3 tokens/s。

    推荐理由:Hugging Face 的 PyTorch 团队给出 MPS 后端在 2.15 中的具体提速数字和内存变化,可据此判断 Mac 本地跑模型的实际收益。

  1. Hugging Face Blog87

    Meta 开源 Muse Spark Open:816B 参数多模态 MoE 模型

    Meta 发布开源权重模型 Muse Spark Open,采用 MoE 架构,总参数约 816B、每 token 激活约 42B,支持文本、图像、音频和视频输入,上下文窗口最高 1M tokens。

    推荐理由:Meta 开源 816B 参数 MoE 多模态模型,给出完整部署、微调与量化运行配方,可据此评估自托管成本。

  1. Hugging Face Blog62

    Apertus 1.5 发布:8B 和 70B 模型新增图像音频理解与思考模式

    Apertus 1.5 在 8B 和 70B 模型上新增图像与音频理解、可选思考模式,上下文窗口扩展至 262,144 tokens,为 1.0 的 4 倍,并改进指令遵循与工具调用。

    推荐理由:Apertus 1.5 在 8B 和 70B 上加入图像音频理解与思考模式,并公开训练数据与中间检查点,可据此判断开源多模态模型的开放程度。

  1. NVIDIA Blog62

    NVIDIA 在 OCP 峰会开放 Vera Rubin 架构并发布 DSX AI Factory 开源组件

    NVIDIA 在 OCP Global Summit 上通过 MGX 开放架构贡献 Vera Rubin 机架与计算托盘设计,为系统厂商提供下一代 AI 工厂基础设施的共同基础。

    推荐理由:NVIDIA 在 OCP 峰会上开放 Vera Rubin 机架与计算托盘设计,读者可了解 AI 工厂基础设施的开放标准走向。

  1. Google DeepMind62

    Google DeepMind 发布 EmbeddingGemma 2 开源多模态嵌入模型

    Google DeepMind 发布 EmbeddingGemma 2,这是基于 Gemma 4 架构、Apache 2.0 许可的开源多模态嵌入模型,参数量 740M,可将文本、图像、音频、视频映射到统一嵌入空间。

    推荐理由:官方给出参数规模、分模块编码器与端侧内存占用,可据此判断本地多模态检索的落地成本。

  1. AWS Machine Learning Blog60

    GLM 5.3 上线 Amazon Bedrock

    智谱(Z.ai)的 GLM 5.3 已在 Amazon Bedrock 上线,这是一个 753B 参数的 MoE 模型,面向编码和长程智能体任务优化。Bedrock 提供全托管 API、跨区域推理、提示词缓存和服务层级,支持 OpenAI 兼容的 Responses 与 Chat Completions API 以及 Invoke 和 Converse API。

    推荐理由:GLM 5.3 以 753B MoE 模型上线 Amazon Bedrock,读者可了解其编码与长程智能体能力及托管接入方式。

  1. Hugging Face Blog66

    NVIDIA 发布开源表格基础模型 Kumo Tabular,单次前向完成分类与回归

    NVIDIA 发布开源表格基础模型 Kumo Tabular,属于 Kumo Structured 模型系列,已在 Hugging Face 上线。给定带标签的表格行,它无需训练、调参和特征工程,单次前向即可预测新行的标签,支持分类与回归,提供 28M 到 215M 三档参数,采用 OpenMDW-1.1 许可可商用。

    推荐理由:NVIDIA 开源表格基础模型,给出三档参数、单次前向预测流程与四个基准排名,可据此判断表格任务是否值得换用。

  1. NVIDIA Blog60

    NVIDIA 与 Google DeepMind 等联合开放 2800 多种病毒的蛋白复合物结构预测

    NVIDIA 联合 Google DeepMind、EMBL-EBI 等机构,通过 AlphaFold Database 开放 2800 多种病毒的蛋白复合物预测 3D 结构,供全球科学家免费使用。

    推荐理由:NVIDIA 与 Google DeepMind 等联合开放 2800 多种病毒的蛋白复合物结构预测,读者可了解开放科学在疫情准备中的具体做法。

  1. Mistral AI62

    Mistral 推出区域推理端点与优先服务层,并接入 GLM-5.2 等第三方开源模型

    Mistral 宣布三项推进 AI 主权的举措:Mistral Regional Endpoints 正式可用,客户可选择推理在欧洲或美国运行;Mistral Priority Tier 进入公开预览,为关键业务负载提供自定义速率限制和带 SLA 的正常运行时间承诺。

    推荐理由:Mistral 把区域推理、优先服务层与第三方开源模型接入打包成主权 AI 方案,读者可据此判断企业部署的合规与算力选项。

已经到底了