跳到正文
  1. Hugging Face Blog69

    IBM 发布 Granite Switch 4.1:单端点实现对话、决策与语音

    IBM 发布 Granite Switch 4.1,包含 Granite-Switch-4.1-8B 和 -30B,通过 Decision aLoRA、Guardian aLoRA 与 Granite-Speech-5.0-Turbo-CTC 在单一托管端点完成对话、决策与语音转写。

    推荐理由:Granite Switch 4.1 把决策适配器与 ASR 模型组合进单一端点,读者可据此了解多能力复用同一基座的部署思路。

  2. The Decoder78

    Black Forest Labs 发布开源图像模型 FLUX 3 Image Klein,8GB 显存可跑

    Black Forest Labs 发布 FLUX 3 Image Klein,这是一个 5.6B 参数的开源权重模型,支持文生图、图像编辑以及最多十张参考图的生成,原生支持 4K 输出、像素级精确编辑和用于元素定位的 bounding box。

    推荐理由:5.6B 参数开源图像模型在 8GB 显存消费级显卡上跑出 9 秒内出图,可对照其与闭源模型的 Elo 差距。

  1. NVIDIA Blog78

    NVIDIA 发布 Nemotron 3.5 Super VL 与 Bolt 系列开源模型

    NVIDIA 发布 Nemotron 3.5 Super VL,这是一个 120B 参数的开源模型,面向持续在线的专用智能体,官方称其吞吐量最高可达同类模型的 5 倍。

    推荐理由:原文给出三款开源模型的参数规模、部署层级与多家机构的微调案例,可据此判断开源智能体模型从数据中心到端侧的覆盖方式。

  1. Hugging Face Blog71

    Liquid AI 发布 LFM2.5-24B-A2B 端侧推理智能体模型

    Liquid AI 发布 LFM2.5-24B-A2B,一个 24B 参数、每 token 仅 2B 激活参数的推理模型,面向端侧私有智能体,会先思考再作答并调用工具。

    推荐理由:LFM2.5-24B-A2B 以 2B 激活参数对标更大 MoE,并给出端侧与 GPU 推理速度数据,可据此判断本地智能体的可行性。

  1. Hugging Face Blog66

    Liquid AI 开源 d1-3B 与 d1-omni-600M 端侧决策模型

    Liquid AI 发布 d1 决策模型家族的两款开源权重模型 d1-3B 和实验性的 d1-omni-600M。

    推荐理由:Liquid AI 开源两款决策模型,给出端侧与 GPU 延迟数据及基准对比,可据此判断小模型做快速结构化决策的可行性。

  1. Google DeepMind62

    Google DeepMind 发布 EmbeddingGemma 2 开源多模态嵌入模型

    Google DeepMind 发布 EmbeddingGemma 2,这是基于 Gemma 4 架构、Apache 2.0 许可的开源多模态嵌入模型,参数量 740M,可将文本、图像、音频、视频映射到统一嵌入空间。

    推荐理由:官方给出参数规模、分模块编码器与端侧内存占用,可据此判断本地多模态检索的落地成本。

已经到底了