跳到正文
  1. Hugging Face Blog69

    IBM 发布 Granite Switch 4.1:单端点实现对话、决策与语音

    IBM 发布 Granite Switch 4.1,包含 Granite-Switch-4.1-8B 和 -30B,通过 Decision aLoRA、Guardian aLoRA 与 Granite-Speech-5.0-Turbo-CTC 在单一托管端点完成对话、决策与语音转写。

    推荐理由:Granite Switch 4.1 把决策适配器与 ASR 模型组合进单一端点,读者可据此了解多能力复用同一基座的部署思路。

  2. The Decoder78

    Black Forest Labs 发布开源图像模型 FLUX 3 Image Klein,8GB 显存可跑

    Black Forest Labs 发布 FLUX 3 Image Klein,这是一个 5.6B 参数的开源权重模型,支持文生图、图像编辑以及最多十张参考图的生成,原生支持 4K 输出、像素级精确编辑和用于元素定位的 bounding box。

    推荐理由:5.6B 参数开源图像模型在 8GB 显存消费级显卡上跑出 9 秒内出图,可对照其与闭源模型的 Elo 差距。

  3. NVIDIA Blog62

    NVIDIA 发布 RTX Spark,面向创作者、玩家与 AI 智能体的 Windows PC

    NVIDIA 发布 RTX Spark,定位为一款面向创作者、玩家和 AI 智能体的 Windows PC,并将于 10 月 16 日在旧金山、柏林、台北、北京、伊斯坦布尔、首尔等地举办发布活动。

    推荐理由:NVIDIA 官方公布 RTX Spark 面向本地 AI 的定位与全球发布活动,读者可据此了解这款 Windows PC 平台的首发安排。

  1. NVIDIA Blog78

    NVIDIA 发布 Nemotron 3.5 Super VL 与 Bolt 系列开源模型

    NVIDIA 发布 Nemotron 3.5 Super VL,这是一个 120B 参数的开源模型,面向持续在线的专用智能体,官方称其吞吐量最高可达同类模型的 5 倍。

    推荐理由:原文给出三款开源模型的参数规模、部署层级与多家机构的微调案例,可据此判断开源智能体模型从数据中心到端侧的覆盖方式。

  1. Google DeepMind62

    Google DeepMind 与新加坡政府合作构建反诈检测微调模型

    Google DeepMind 与新加坡政府科技局(GovTech)合作,基于轻量级 Gemma 模型微调出端侧反诈检测模型,可在新加坡常见智能手机上运行。该模型在设备本地处理对话数据,通过两阶段流水线先由轻量分类器筛查消息,再用微调 Gemma 分析对话上下文确认威胁,检测到操纵性对话模式时实时提醒用户。

    推荐理由:Google DeepMind 与新加坡政府合作的端侧反诈模型,展示了隐私保护与本地威胁检测如何兼顾。

  2. Hugging Face Blog71

    Liquid AI 发布 LFM2.5-24B-A2B 端侧推理智能体模型

    Liquid AI 发布 LFM2.5-24B-A2B,一个 24B 参数、每 token 仅 2B 激活参数的推理模型,面向端侧私有智能体,会先思考再作答并调用工具。

    推荐理由:LFM2.5-24B-A2B 以 2B 激活参数对标更大 MoE,并给出端侧与 GPU 推理速度数据,可据此判断本地智能体的可行性。

  1. NVIDIA Blog78

    NVIDIA RTX Spark 笔记本上市,本地 AI 应用与模型生态同步就绪

    NVIDIA 宣布 RTX Spark 笔记本将于 10 月 16 日上市,最高 128GB 统一内存、1 petaflop AI 算力,首发覆盖数百款游戏与 130 多个加速应用。

    推荐理由:原文列出 RTX Spark 首发时本地智能体、模型与开发工具的适配清单,可据此判断本地 AI 工作流的可用边界。

  1. NVIDIA Blog78

    NVIDIA 与 Microsoft 发布 RTX Spark 笔记本和 Windows 智能体基础设施

    NVIDIA 与 Microsoft 在旧金山 Windows AI and Surface 活动上宣布为 Windows PC 的 AI 智能体共同设计软硬件,Microsoft 宣布 OS 级基础设施 Microsoft Execution Containers(MXC)正式可用,让智能体在系统控制下安全持久地在后台运行。

    推荐理由:NVIDIA 与 Microsoft 把智能体运行所需的系统级容器和本地算力硬件一并给出,读者可据此判断 Windows 端侧智能体的落地条件。

  2. Hugging Face Blog66

    Liquid AI 开源 d1-3B 与 d1-omni-600M 端侧决策模型

    Liquid AI 发布 d1 决策模型家族的两款开源权重模型 d1-3B 和实验性的 d1-omni-600M。

    推荐理由:Liquid AI 开源两款决策模型,给出端侧与 GPU 延迟数据及基准对比,可据此判断小模型做快速结构化决策的可行性。

  1. Google DeepMind62

    Google DeepMind 发布 EmbeddingGemma 2 开源多模态嵌入模型

    Google DeepMind 发布 EmbeddingGemma 2,这是基于 Gemma 4 架构、Apache 2.0 许可的开源多模态嵌入模型,参数量 740M,可将文本、图像、音频、视频映射到统一嵌入空间。

    推荐理由:官方给出参数规模、分模块编码器与端侧内存占用,可据此判断本地多模态检索的落地成本。

  1. NVIDIA Blog62

    NVIDIA DGX Spark 推出 64GB 版本,支持双机集群扩展本地 AI

    NVIDIA 将于本月通过 Acer、ASUS、Dell、Gigabyte、HP 和 MSI 推出 64GB 统一内存版 DGX Spark,10 月 23 日开售,起售价 4,999 美元,保留 GB10 Grace Blackwell 超级芯片、DGX OS 和完整 NVIDIA AI 软件栈,支持最高 1000 亿参数模型在设备本地运行。

    推荐理由:原文给出 64GB 新配置的定价、上市时间与双机集群方式,读者可据此判断本地跑大模型的硬件门槛。

已经到底了