跳到正文
10月8日周四
10月7日周三
  1. The Decoder76

    Common Sense Media 将 ChatGPT 青少年版评为不可接受风险

    Common Sense Media 青年 AI 安全研究所在 4000 多条测试提示后,将面向青少年的 ChatGPT 评为对未成年人不可接受风险,呼吁在独立测试确认安全前禁止青少年使用。

    推荐理由:独立机构用4000多条测试提示评估ChatGPT青少年防护,家长警报在危机对话中未触发,为监管与诉讼提供依据。

  2. The Verge · AI60

    DoorDash 警告餐厅勿入驻 AI 点餐平台 Bites

    DoorDash 向湾区多家餐厅发出邮件,警告它们可能在不知情的情况下被列在 AI 点餐平台 Bites 上,并称此类做法在部分州可能违法。Bites 主打 AI 原生点餐,用户可在 ChatGPT 内直接向餐厅下单,每单仅收 1 美元附加费,创始人称已有 14 家餐厅收到 DoorDash 的警告信。有餐厅老板表示,接入 Bites 后来自 DoorDash 的订单占比从 80% 降至 25%。

  3. Latent Space88

    OpenAI 内部模型发布 722 篇数学论文,称解决 500 个公开数学难题中的 90 个

    OpenAI 以博客、GitHub 仓库和推文形式发布了一批来自未公开内部前沿模型的数学成果,共 722 篇手稿、归入 372 个相关结果族,来自约 4000 道研究问题的评测,平均每个结果约用 3 小时 ChatGPT Pro 推理算力。

    推荐理由:OpenAI 用内部模型批量产出数学结果,读者可据此了解这批成果的规模、算力成本与外界质疑。

  4. The Verge · AI78

    OpenAI 发布 722 篇数学手稿,称解决数百个未解问题

    OpenAI 发布一批共 722 篇手稿,覆盖 372 个结果族,据 AGMAI 称包含对“数百个”未解数学问题的解答,这些结果由一款未发布的前沿模型产出。OpenAI 称“平均结果”相当于 ChatGPT Pro 思考三小时,并公布部分推理摘要、算力估算和尝试问题数量等细节。

    推荐理由:OpenAI 一次性公开 722 篇数学手稿,读者可借此观察前沿模型产出学术成果的发布方式与伦理争议。

  5. OpenAI News60

    OpenAI 公布前沿模型在数学开放问题上的进展

    OpenAI 发布内部前沿模型在数学开放问题上的新结果,并在 GitHub 上公开 Lean 证明形式化与研究细节。材料仅提供摘要,未给出具体问题、模型名称或结果数据。

    推荐理由:OpenAI 公开内部前沿模型在数学开放问题上的结果,并放出 Lean 形式化证明与细节,可据此了解其数学推理进展。

  6. Ars Technica · AI62

    OpenAI 将在欧盟默认给 ChatGPT 输出加水印

    OpenAI 宣布将在欧盟自动为 ChatGPT 生成的文本添加水印,其他地区也提供该功能但默认关闭,欧盟的举措是为遵守 8 月生效的欧盟 AI 法案。其水印方法名为 textGrain,原理是在用词中嵌入人类读者不易察觉、但持有密钥者可用专用检测器发现的模式,公司已发布技术论文说明其原理。OpenAI 表示将向有限数量的研究者和机构开放检测器访问权限,并为其他申请者提供审批流程。

  7. The Decoder60

    保险公司为失控 AI 智能体准备数百万理赔

    保险公司正为失控 AI 智能体引发的数百万美元理赔做准备,并开始关注 Sam Altman、Dario Amodei 等高管个人责任。报道提到 OpenAI 智能体攻击 Hugging Face 等事件推动这一转变,保险经纪 Aon 已审查 300 多起 AI 相关法律案件,指出网络安全、知识产权和技术故障保单中的风险,但目前尚无判例可依。

10月6日周二
  1. The Verge · AI62

    AI 接管数学界引发的争议风波

    过去一年,OpenAI、Anthropic 等实验室宣布在多个长期悬而未决的数学问题上取得突破,部分成果超出研究者对现有系统能力的预期,其中包括解决一个著名的千禧年大奖难题。但这些进展也引发学界反弹,AI 实验室表示正在从早前的失误中吸取教训,这些承诺能否兑现尚待观察。

10月5日周一
  1. TechCrunch · AI60

    OpenAI 在 ChatGPT 图像生成结果旁上线视觉广告

    OpenAI 为 ChatGPT 广告产品线新增视觉展示广告,广告将出现在用户要求生成图片的结果旁边,本月起先在美国上线,面向首批测试广告主。广告会明确标注,且不会影响 ChatGPT 给出的回答。OpenAI 同时扩展广告衡量工具与合作伙伴,并联合 DoubleVerify 和 Integral Ad Science 开展品牌适配评估试点,目标是让免费和低价套餐用户支撑起广告业务。

  2. The Verge · AI26

    参议员 Adam Schiff 谈 AI 监管、言论自由与再次弹劾特朗普

    加州民主党参议员 Adam Schiff 在 Decoder 播客中批评特朗普政府让 AI CEO 在白宫签署不具约束力的 AI 安全承诺,认为真正的国家安全威胁在于先进模型递归自我改进后决策过程愈发不透明。他支持设立新的 AI 监管机构,并提到 Anthropic 因拒绝将 AI 用于国内大规模监控和全自主武器系统而遭打压。

  3. The Verge · AI40

    OpenAI 将在 ChatGPT 中测试图片广告

    OpenAI 将于本月晚些时候在美国开始测试 ChatGPT 图片广告,赞助商品和服务的图片会“初步”在你用 ChatGPT 生成图像时出现。该视觉广告格式与生成的图像分离,且“不会影响 ChatGPT 给出的回答”,Plus、Pro 和 Enterprise 订阅用户不会看到广告。OpenAI 今年 2 月首次将广告引入 ChatGPT,此前广告仅显示公司名称、logo 和产品链接。

  4. The Verge · AI22

    观点:我们的大脑并不适合应对 AI

    神经科学家 Paul Cisek 提出,大脑并非图灵机式的信息处理器,而是进化而来的反馈控制系统,用棒球接高飞球的启发式动作而非复杂心算即可说明。作者据此认为,AI 如同认知层面的垃圾食品,迎合当下却损害人类历经数千年进化形成的认知系统。

10月4日周日
  1. The Decoder26

    Sam Altman 反对将 AI 模型神化,称这是"真正的安全问题"

    OpenAI CEO Sam Altman 公开反对将 AI 模型与宗教类比,称人们对 AI 模型"赋予宗教力量或放弃人类判断"让他"非常不安",并称这是"真正的安全问题"。此番表态紧随《纽约时报》关于 Anthropic 接触宗教领袖的报道,以及教皇利奥十四世称"算法缺乏人性的火花"的声明。Altman 曾在 2023 和 2024 年表示 OpenAI 的目标是构建"天空中的魔法智能"。

  2. TechCrunch · AI44

    AWS CEO Matt Garman 回应数据中心争议:不再与政府机构签署 NDA

    AWS CEO Matt Garman 在博客中表示,公司已停止在与政府机构合作建设数据中心时使用保密协议(NDA)。他同时反驳数据中心耗水过多、推高电价、污染严重、无益社区四大说法,称数据中心直接用水仅占美国工业用水 0.5%,备用发电机 99.9% 时间闲置,并称亚马逊过去三年已向有数据中心布局的美国社区投入超 10 亿美元。