跳到正文
10月9日周五
  1. Hugging Face Blog34

    Ai2 如何用 GPU 时间预算与分层公平分配改造 GPU 集群调度

    Ai2 用 GPU 时间预算、分层公平分配和时间切片合约替换了原有优先级调度器,把"每个研究项目该分多少 GPU 时间"从事后逐案协调变成透明的预算分配流程。Ai2 管理数千块 NVIDIA H100、B200 和 B300 GPU,集群规模 88 至 1024 块,服务约 150 名内部研究者,待处理需求常年是可用算力的 2-3 倍。

  2. Hugging Face Blog76

    作者用 ML Intern 两天自建六个模型,总花费约 103 美元

    作者借助 HuggingChat 中的 ML Intern,在两天内做出六个模型,包括 0.8B 的 Pocket Rewriter、柑橘病害 VLM、Huggy LoRA、相机视角 LoRA、Doodle-in LoRA 和 Agate 4-step 蒸馏模型,总计算成本约 103 美元。

    推荐理由:作者用 ML Intern 在两天内自建六个模型,公开了完整提示词与成本明细,可迁移到自己的训练流程。

10月8日周四
  1. Simon Willison78

    Anthropic 发布 Claude Haiku 5.5 并调整 API 计费

    Anthropic 发布快速低成本模型 Claude Haiku 5.5,定价与 OpenAI GPT-6 Luna 一致,为每百万 token 输入 0.10 美元、输出 0.50 美元,超过 100,000 token 后涨至 0.50/2.50 美元。

    推荐理由:对比 Haiku 5.5 与 GPT-6 Luna 的定价和 tokenizer 变化,并给出实测成本与耗时数据。

  2. NVIDIA Blog78

    NVIDIA 与 Microsoft 发布 RTX Spark 笔记本和 Windows 智能体基础设施

    NVIDIA 与 Microsoft 在旧金山 Windows AI and Surface 活动上宣布为 Windows PC 的 AI 智能体共同设计软硬件,Microsoft 宣布 OS 级基础设施 Microsoft Execution Containers(MXC)正式可用,让智能体在系统控制下安全持久地在后台运行。

    推荐理由:NVIDIA 与 Microsoft 把智能体运行所需的系统级容器和本地算力硬件一并给出,读者可据此判断 Windows 端侧智能体的落地条件。

  3. The Verge · AI58

    微软 Surface RTX Spark Dev Box 开启预售,售价 5999 美元

    微软面向开发者的高端 AI 迷你主机 Surface RTX Spark Dev Box 开启预售,售价约 6000 美元,11 月开始发货。该设备采用 Nvidia Arm 架构的 RTX Spark 平台和 128GB 统一内存,针对本地 AI 优化,可运行参数超过 120B 的模型,用于测试 AI 模型、原型化 AI 智能体或在本地运行 AI 编码工具。

  4. GitHub Blog · AI & ML62

    GitHub 推出基于 ModernBERT 的通用密钥检测模型,扩展 push protection

    GitHub 发布与 Microsoft Applied Sciences 联合微调的 ModernBERT 分类器,用代码上下文识别无固定格式的密钥,候选批次评估耗时低于 2 毫秒,可将可拦截的密钥数量提升一倍以上。

    推荐理由:GitHub 公开了九季度密钥泄露数据,并给出用分类器把防护前移到 push 环节的具体做法与开放节奏。

  5. Microsoft Research62

    微软研究院开源 Agent Lightning v1.0:3500 行轻量级 Agentic RL 框架

    微软研究院亚洲团队开源 Agent Lightning v1.0,提出 Harnessed Agentic RL 训练范式,让部署时使用的 agent harness 直接参与强化学习,无需在训练框架内重新实现 agent。

    推荐理由:微软研究院开源 Agent Lightning v1.0,用约 3500 行代码把真实 harness 直接接入 RL 训练,并给出 6000 样本提升 14.6 个百分点的完整流程。

  6. AWS Machine Learning Blog34

    Cornerstone OnDemand 如何用 Amazon Bedrock 将数据库诊断时间缩短 78%

    Cornerstone OnDemand 基于 Amazon Bedrock 和 Strands Agents 构建多智能体系统 Orion AI,将数据库诊断时间从 45 分钟降至 10 分钟,缩短 78%。该系统还把手动生命周期步骤从 10 步以上压缩为 1 次交互,冗余告警中位数减少 65%,SRE 与数据团队之间的 15 分钟报告延迟降为实时。三人团队用六个月完成交付。

10月7日周三
  1. Simon Willison38

    EmbeddingGemma 2 采用 Apache 2.0 许可证

    EmbeddingGemma 2 采用 Apache 2.0 许可证,Simon Willison 认为嵌入模型不应使用闭源、专有、仅托管的形式。嵌入模型通常需计算并存储数千乃至数百万条嵌入向量,一旦供应商停供专有模型,用户就得为重新计算这些已存向量付费。他更愿意付费使用托管版本,同时保留在停供时自行运行开放权重版本或另寻供应商的余地。