跳到正文

技术方向

数据与训练 最新动态

训练侧的门道:数据集构建、合成数据、预训练与后训练方法、算力与训练成本。

26 条精选近 30 天 23 条共收录 126 条

更新

数据与训练的精选

10月23日周五第 1–20 条
  1. Hugging Face Blog62

    微软与 Hugging Face 将数据库校验转为 RL 奖励,用 ThinkingBox 后训练智能体

    微软与 Hugging Face 联合发布 ThinkingBox-Training,把 ThinkingBox 对数据库终态的校验结果直接当作强化学习奖励,用于智能体后训练。

    推荐理由:微软与 Hugging Face 把数据库终态校验当作 RL 奖励,并公开了任务筛选与训练代码,可供做智能体后训练时参考。

10月22日周四
  1. Hugging Face Blog78

    NVIDIA 发布 Kumo Relational 关系型基础模型,无需训练即可预测

    NVIDIA 发布预训练关系型基础模型 Kumo Relational,可直接在企业数据库上做预测,无需任务特定训练、特征工程或表扁平化。给定预测查询时,它最多读取 1 万个历史样本作为上下文,一次前向传播输出流失、需求或欺诈等结果。

    推荐理由:官方披露了预训练关系型基础模型在 41 项基准上超越监督学习的结果,以及无需训练、直接查询数据库的使用方式。

10月18日周日
  1. The Decoder78

    Anthropic 内部研究:AI 智能体工时达人类 6 倍,初级技术岗位招聘大幅收缩

    Anthropic 发布的内部研究显示,自 2025 年初以来技术部门初级岗位占比从 21% 降至 14%,初级新员工占比从 27% 降至 9%,开放初级岗位降至 6%。到 2026 年 8 月,其 AI 智能体记录的工作时长已是人类员工的 6 倍,研究部门达到 19:1。研究同时承认 Anthropic 是 AI 使用极密集的特殊样本,结果难以直接映射到整体经济。

    推荐理由:Anthropic 内部研究显示初级岗位占比随 AI 智能体工时上升而下降,文中也点出这一样本的特殊性。

10月17日周六
  1. Google Research62

    Google Research 让 AI 智能体落地湿实验室:VERID 框架与闭环分子发现

    Google Research 发布研究博客,介绍让 AI 智能体在湿实验室中安全执行实验的三项工作。VERID 框架为实验室工作单元构建语义数字孪生,支持实时 3D 状态追踪、快速虚拟预演、硬件安全检查与同步视频日志,案例中智能体在板读仪故障后无需重新移液即可恢复运行,并通过闭环自博弈将染料混合物重建精度提升五倍以上。

    推荐理由:Google Research 用 VERID 数字孪生和闭环实验,展示智能体如何在湿实验室里自我纠错并优化分子设计。

10月16日周五
  1. Hugging Face Blog62

    NVIDIA 与 AI4Bharat 发布 Nemotron-pretraining-Indic-v1:2.8 万亿 token 与开放数据生成流程

    NVIDIA 联合 IIT Madras 的 AI4Bharat 发布 Nemotron-pretraining-Indic-v1,覆盖 22 种印度语言、约 2.8 万亿 token,并同步开放用于生成该语料的 GPU 加速数据生成流程。

    推荐理由:原文公开了约 2.8 万亿 token 的语料构成与完整生成流程,读者可据此评估 Indic 预训练数据的可复用程度。

  2. Google DeepMind62

    Google DeepMind 用 Google Antigravity 加速抗菌肽发现

    Google DeepMind 介绍用其智能体开发平台 Google Antigravity 加速抗菌肽发现,把原本分散在多个数据库的检索压缩到单次会话中。平台内置 Biomolecular Structure Viewer,可嵌入 3D 结构可视化,让研究者与智能体共享同一视觉状态并双向同步标注。

    推荐理由:原文展示了智能体平台把跨库检索与结构分析压缩进单次会话的具体流程,可据此判断科研工作流的改动幅度。

10月15日周四
  1. Mistral AI71

    Mistral 发布时间序列基础模型 Timestral

    Mistral 发布首个时间序列基础模型系列 Timestral,最大模型仅 209M 参数,在 GIFT-Eval、TIME、fev-bench 三个公开基准上均排名第一,超过此前 SOTA 且参数量只有其三分之二。

    推荐理由:Mistral 首次进入时间序列基础模型领域,给出四个尺寸与三项基准排名,可据此判断小参数模型在预测任务上的可用性。

  2. Google Research62

    Google 发布地理空间推理智能体技术报告与两个新基准

    Google 发布地理空间推理智能体的技术报告,系统评测了四种智能体配置在四个基准上的表现,并开源了自研的 GeoExpertQueries 与 GeoKTools 两个基准的开发集。

    推荐理由:Google 公开了地理空间推理智能体的技术报告与两个新基准,并给出与 WHO 等机构的实测案例,可了解专用工具与前置规划对空间推理的作用。

10月13日周二
10月10日周六
  1. The Verge · AI88

    OpenAI 一次性放出近 400 项数学结果,数学家称需数年才能消化

    OpenAI 本周突然发布近 400 项 AI 生成的数学结果,分布在 700 多份手稿中,覆盖组合数学、几何、数论、理论计算机科学、代数、拓扑、概率与统计力学、数学物理等多个方向。

    推荐理由:数十位数学家对 OpenAI 一次性放出近 400 项数学结果的第一手反应,呈现学术界的验证困境与职业冲击。

10月9日周五
  1. Hugging Face Blog76

    作者用 ML Intern 两天自建六个模型,总花费约 103 美元

    作者借助 HuggingChat 中的 ML Intern,在两天内做出六个模型,包括 0.8B 的 Pocket Rewriter、柑橘病害 VLM、Huggy LoRA、相机视角 LoRA、Doodle-in LoRA 和 Agate 4-step 蒸馏模型,总计算成本约 103 美元。

    推荐理由:作者用 ML Intern 在两天内自建六个模型,公开了完整提示词与成本明细,可迁移到自己的训练流程。

  2. The Decoder80

    数学家呼吁抵制 OpenAI,AI 生成证明涌入数学界

    数学界部分人士呼吁抵制 OpenAI,起因是该公司一次性放出 700 多份 AI 生成的数学证明文件,被 AHM 声明称为展示力量而非学术成果。陶哲轩在博客转发该声明,并提出数学应进入不再以解题为核心衡量标准的 Math 2.0 时代;Scott Aaronson 则对比了 OpenAI 批量放出草稿与 Anthropic 与研究者合作、给予报酬并写出人类可读证明的两种模式。

    推荐理由:围绕 OpenAI 一次性放出 700 多份 AI 证明草稿,呈现数学界抵制呼声与两种产业协作模式的对比。

10月8日周四
  1. Google Research66

    Google Research 三个月实地实验:AI 辅助提升专利撰写产出,但初级律师无辅助判断力未同步提升

    Google Research 与 NBER 发布一项为期三个月的实地实验,在 11 家知识产权律所的 133 名律师中随机开放当时未发布的 Google Labs AI 专利撰写助手(现属 Gemini Notebook)。

    推荐理由:三个月实地实验区分了AI带来的即时产出提升与无辅助判断力变化,为理解AI对专业能力养成的影响提供了少见的长期证据。

  2. Microsoft Research62

    微软研究院开源 Agent Lightning v1.0:3500 行轻量级 Agentic RL 框架

    微软研究院亚洲团队开源 Agent Lightning v1.0,提出 Harnessed Agentic RL 训练范式,让部署时使用的 agent harness 直接参与强化学习,无需在训练框架内重新实现 agent。

    推荐理由:微软研究院开源 Agent Lightning v1.0,用约 3500 行代码把真实 harness 直接接入 RL 训练,并给出 6000 样本提升 14.6 个百分点的完整流程。

10月7日周三
  1. Latent Space88

    OpenAI 内部模型发布 722 篇数学论文,称解决 500 个公开数学难题中的 90 个

    OpenAI 以博客、GitHub 仓库和推文形式发布了一批来自未公开内部前沿模型的数学成果,共 722 篇手稿、归入 372 个相关结果族,来自约 4000 道研究问题的评测,平均每个结果约用 3 小时 ChatGPT Pro 推理算力。

    推荐理由:OpenAI 用内部模型批量产出数学结果,读者可据此了解这批成果的规模、算力成本与外界质疑。

  2. OpenAI News60

    OpenAI 公布前沿模型在数学开放问题上的进展

    OpenAI 发布内部前沿模型在数学开放问题上的新结果,并在 GitHub 上公开 Lean 证明形式化与研究细节。材料仅提供摘要,未给出具体问题、模型名称或结果数据。

    推荐理由:OpenAI 公开内部前沿模型在数学开放问题上的结果,并放出 Lean 形式化证明与细节,可据此了解其数学推理进展。

10月2日周五
  1. AWS Machine Learning Blog60

    在 Amazon SageMaker AI 上用多轮 RL 微调搜索智能体

    AWS 团队介绍如何用 Amazon SageMaker AI 的多轮强化学习(MTRL)微调 Qwen3.6-27B 搜索智能体,仅调整 max_epochs、global_batch_size、rollout_max_concurrency 三个超参数,其余走默认值。

    推荐理由:AWS 团队公开了用多轮 RL 微调搜索智能体的完整配置与四个基准的对比数据,可据此评估该方法在自有检索场景的迁移成本。

  2. Hugging Face Blog61

    Ai2 开源科学报告生成模型 AstaBrief 8B

    Ai2 开源 AstaBrief 8B,一个把研究问题和检索到的文献片段转成带引用报告的模型,已在 Asta 的 Generate a report 功能中以 Fast 模式上线,同时开放模型权重和训练数据。

    推荐理由:原文给出 AstaBrief 的训练数据构造与过滤细节,读者可据此判断小模型做科学报告生成的可行路径。