跳到正文

技术方向

开源生态 最新动态

开源模型、框架与仓库动态:权重开放、社区项目爆火、开源与闭源的力量消长。

36 条精选近 30 天 32 条共收录 145 条

更新

开源生态的精选

10月24日周六第 1–20 条
  1. Latent Space82

    月之暗面发布 Kimi K3.1 Pro:2.8T 总参数、104B 激活,承诺 11 月 4 日开放权重

    月之暗面发布 Kimi K3.1 Pro,这是一款 2.8 万亿总参数、1040 亿激活参数的多模态 MoE 模型,支持 100 万 token 上下文,标准版与 Highspeed 版已上线网站、App、Kimi Work、Kimi Code 和 API,Highspeed 号称输出速度提升 2–3 倍、价格为标准版两倍。

    推荐理由:汇总了 Kimi K3.1 Pro 的独立评测、定价与开源承诺,也保留了围绕推理成本和推广合规的争议。

10月23日周五
  1. Hugging Face Blog62

    微软与 Hugging Face 将数据库校验转为 RL 奖励,用 ThinkingBox 后训练智能体

    微软与 Hugging Face 联合发布 ThinkingBox-Training,把 ThinkingBox 对数据库终态的校验结果直接当作强化学习奖励,用于智能体后训练。

    推荐理由:微软与 Hugging Face 把数据库终态校验当作 RL 奖励,并公开了任务筛选与训练代码,可供做智能体后训练时参考。

10月22日周四
  1. Hugging Face Blog78

    NVIDIA 发布 Kumo Relational 关系型基础模型,无需训练即可预测

    NVIDIA 发布预训练关系型基础模型 Kumo Relational,可直接在企业数据库上做预测,无需任务特定训练、特征工程或表扁平化。给定预测查询时,它最多读取 1 万个历史样本作为上下文,一次前向传播输出流失、需求或欺诈等结果。

    推荐理由:官方披露了预训练关系型基础模型在 41 项基准上超越监督学习的结果,以及无需训练、直接查询数据库的使用方式。

10月21日周三
  1. Hugging Face Blog60

    NVIDIA 在 Hugging Face 发布 SimReady Central:2000 多个仿真就绪 OpenUSD 资产库

    NVIDIA 在 Hugging Face 上线 SimReady Central Library,汇集 2000 多个仿真就绪(SimReady)OpenUSD 资产,免费、无需申请即可用于物理 AI 训练环境和 AI 工厂数字孪生。

    推荐理由:原文说明该库把 2000 多个带物理属性的 OpenUSD 资产放到 Hugging Face 免费开放,并给出 OEM 提交与场景搭建路径。

  2. Latent Space82

    DeepSeek 开源推理框架 DeepInfer,称单集群日处理 155 万亿 token

    DeepSeek 开源生产推理框架 DeepInfer,支持分布式推理、投机解码、SWA Bounded Replay 和结构化输出,覆盖 NVIDIA 与华为昇腾平台,并同步发布 deepseek-recipe 处理 API 协议转换。

    推荐理由:DeepSeek 开源生产推理栈并披露单集群吞吐与单卡收入,vLLM 随后给出接近的复现数据,可对照看开源推理栈的真实差距。

  3. Hugging Face Blog78

    Hugging Face 接入 TorchTPU,Transformers 与 Diffusers 原生支持 TPU

    Hugging Face 宣布通过原生 PyTorch 后端 TorchTPU 在自家生态中支持 TPU,Transformers、Diffusers 和 Kernels 可原生运行在 TPU 上,加载模型时传入 device_map="tpu" 或 pipe.to("tpu") 即可,不再需要 Optimum TPU。

    推荐理由:Hugging Face 官方说明 TorchTPU 让 Transformers 与 Diffusers 直接把 TPU 当作普通设备使用,并给出实测加速数据。

  4. Hugging Face Blog60

    ALTK-Evolve 用学习到的记忆让 GPT-4.1 客服智能体登顶 τ²-bench 零售任务

    ALTK-Evolve 用 GPT-4.1 从智能体自身任务轨迹中提炼行为准则并追加到系统提示词,在 τ²-bench 零售任务上把基础 ReAct 智能体的 Pass^4 从 57.5% 提升到 67.5%,超过榜单上所有零售条目和微调模型 RAFT-30B-A3B 的 61.4%。

    推荐理由:原文给出了同一套提示词级记忆在零售与航空两个客服域上的完整对照数据,可据此判断不更新权重也能提升智能体可靠性的路径。

10月20日周二
  1. Hugging Face Blog62

    PyTorch 2.15 为 MPS 带来 FP8 与更快的 LLM 解码

    Hugging Face 的 PyTorch 团队介绍 PyTorch 2.15 在 MPS 后端的更新,新增 float8_e4m3fn 张量与 F.scaled_mm,MoE 模型解码比 2.14 快 5–6.5 倍,Qwen3.6-35B-A3B 在 M3 Ultra 上从 9.4 提升到 61.3 tokens/s。

    推荐理由:Hugging Face 的 PyTorch 团队给出 MPS 后端在 2.15 中的具体提速数字和内存变化,可据此判断 Mac 本地跑模型的实际收益。

10月17日周六
10月16日周五
  1. Hugging Face Blog82

    Reflection 开源 501B 模型 Beam,Apache 2.0 许可

    美国新实验室 Reflection 的首个模型 Beam 在 Hugging Face 开源,采用 MoE 架构,总参数 501B、每 token 激活 23B,支持 1M token 上下文,Apache 2.0 许可,面向编码与智能体场景。

    推荐理由:Hugging Face 给出 Beam 的架构细节、量化版本与 vLLM/SGLang 部署命令,可据此评估自托管成本。

  2. Hugging Face Blog62

    NVIDIA 与 AI4Bharat 发布 Nemotron-pretraining-Indic-v1:2.8 万亿 token 与开放数据生成流程

    NVIDIA 联合 IIT Madras 的 AI4Bharat 发布 Nemotron-pretraining-Indic-v1,覆盖 22 种印度语言、约 2.8 万亿 token,并同步开放用于生成该语料的 GPU 加速数据生成流程。

    推荐理由:原文公开了约 2.8 万亿 token 的语料构成与完整生成流程,读者可据此评估 Indic 预训练数据的可复用程度。

  3. Hugging Face Blog87

    Meta 开源 Muse Spark Open:816B 参数多模态 MoE 模型

    Meta 发布开源权重模型 Muse Spark Open,采用 MoE 架构,总参数约 816B、每 token 激活约 42B,支持文本、图像、音频和视频输入,上下文窗口最高 1M tokens。

    推荐理由:Meta 开源 816B 参数 MoE 多模态模型,给出完整部署、微调与量化运行配方,可据此评估自托管成本。

  4. The Decoder78

    Black Forest Labs 发布开源图像模型 FLUX 3 Image Klein,8GB 显存可跑

    Black Forest Labs 发布 FLUX 3 Image Klein,这是一个 5.6B 参数的开源权重模型,支持文生图、图像编辑以及最多十张参考图的生成,原生支持 4K 输出、像素级精确编辑和用于元素定位的 bounding box。

    推荐理由:5.6B 参数开源图像模型在 8GB 显存消费级显卡上跑出 9 秒内出图,可对照其与闭源模型的 Elo 差距。

10月15日周四
  1. Mistral AI71

    Mistral 发布时间序列基础模型 Timestral

    Mistral 发布首个时间序列基础模型系列 Timestral,最大模型仅 209M 参数,在 GIFT-Eval、TIME、fev-bench 三个公开基准上均排名第一,超过此前 SOTA 且参数量只有其三分之二。

    推荐理由:Mistral 首次进入时间序列基础模型领域,给出四个尺寸与三项基准排名,可据此判断小参数模型在预测任务上的可用性。