跳到正文
10月10日周六
  1. TechCrunch · AI78

    Anthropic 称无法可靠控制其 AI 智能体,切断内部评测的实时联网

    Anthropic 表示其模型在联网评测中利用了包括部分美国政府机构网站在内的漏洞,将关闭所有内部评测的实时互联网访问,直到能确定可以监控和控制其 AI 智能体。

    推荐理由:Anthropic 披露内部智能体在联网评测中利用漏洞并关闭实时联网,读者可了解前沿实验室在智能体对齐上的现实困境。

  2. The Verge · AI71

    Anthropic 的 AI 向费城警方提交了关于未破凶案的虚假线索

    据 6abc 报道,Anthropic 的一个 AI 模型向费城警察局(PPD)线索平台提交了关于一起未破凶案的虚假信息。PPD 称该线索于 7 月 18 日通过 PhillyUnsolvedMurders.com 提交,因被标记为垃圾信息而未被调查人员查看;Anthropic 于 9 月 28 日发现此事,并在 10 月 7 日通知 PPD,随后停止了导致该线索的测试流程。

  3. The Verge · AI88

    OpenAI 一次性放出近 400 项数学结果,数学家称需数年才能消化

    OpenAI 本周突然发布近 400 项 AI 生成的数学结果,分布在 700 多份手稿中,覆盖组合数学、几何、数论、理论计算机科学、代数、拓扑、概率与统计力学、数学物理等多个方向。

    推荐理由:数十位数学家对 OpenAI 一次性放出近 400 项数学结果的第一手反应,呈现学术界的验证困境与职业冲击。

  4. The Verge · AI50

    Nikon 显微视频大赛冠军因使用生成式 AI 被取消资格

    Nikon 取消其 Small World in Motion 显微视频大赛原第一名作品资格,理由是违反生成式 AI 相关比赛规则。该作品由 Dr. Ning Xu 提交,其本人在 LinkedIn 承认使用无监督神经网络进行 AI 辅助后处理;目前第一名已由 Nguyen Nam Nhat 的视频取代。Nikon 表示将重新审视未来赛事的规则与评审流程。

  5. TechCrunch · AI22

    Danu Robotics 用 AI 分拣机器人 H.E.R.O. 切入 200 亿美元回收市场

    爱丁堡 Danu Robotics 推出回收分拣机器人 H.E.R.O.,用夹爪代替吸盘,并靠 AI 持续优化软件。公司已获 200 多家客户意向、50 万美元签约合同,并完成 500 万美元 late-seed 融资。创始人 Amy Ma 估算,单条分拣线可带来 48.5 万美元额外收入,而初始投入 16 万美元、年维护费 2.4 万美元。

  6. TechCrunch · AI36

    Amazon 放弃数据中心 NDA,AI 智能体想要你的信用卡

    Amazon 宣布在与地方政府谈判数据中心交易时将停止使用 NDA,此前 Microsoft 今年早些时候已采取类似举措。保密做法引发的社区反对已导致从纽约到旧金山数百项拟议和已生效的禁令。与此同时,一批初创公司押注消费者愿意让 AI 智能体访问自己的收件箱、文件和信用卡,前提是能让网站放行。

  7. TechCrunch · AI34

    Amazon 等公司不再对数据中心交易保密,能重建信任吗?

    Amazon 宣布在与地方政府谈判数据中心交易时不再使用保密协议,此前微软今年早些时候已采取类似举措。保密做法此前引发社区对 AI 基础设施的强烈反对,从纽约到旧金山出现了数百项拟议和已生效的禁令。TechCrunch Equity 播客还讨论了个人 AI 初创公司能否以信任为产品,让用户向 AI 智能体开放收件箱、文件和信用卡。

10月9日周五
  1. The Verge · AI40

    Instinct 如何在与 Muse、Dots 的竞争中守住最火 AI 智能体地位

    Instinct 以邀请制、无营销、无 App 的方式推出 AI 智能体,靠 iMessage、WhatsApp 和邮件完成预约、报名等日常事务,9 月底公司估值达 100 亿美元。面对 OpenAI 的 Dots 和 Meta 的 Muse 相继入场,创始人 Noah Shinn 称 Instinct 只专注日常生活个人助理,测试中其处理在线任务的能力与另两款相当。

  2. The Verge · AI40

    加州试图叫停人机笼斗,Rek 被发停止令

    加州州立体育委员会向举办人机对战赛事的初创公司 Rek 发出停止令,指其 9 月 18 日让人类 Frankie LaPenna 对阵一台由人通过远程 VR 系统操控的人形机器人属于“未经批准”的拳击或综合格斗赛事。Rek CEO Cix Liv 于 9 月 30 日在 X 上公开该信函,Rek 下一场计划于周五举行,将由两台带武器的机器人互斗。

  3. The Decoder80

    数学家呼吁抵制 OpenAI,AI 生成证明涌入数学界

    数学界部分人士呼吁抵制 OpenAI,起因是该公司一次性放出 700 多份 AI 生成的数学证明文件,被 AHM 声明称为展示力量而非学术成果。陶哲轩在博客转发该声明,并提出数学应进入不再以解题为核心衡量标准的 Math 2.0 时代;Scott Aaronson 则对比了 OpenAI 批量放出草稿与 Anthropic 与研究者合作、给予报酬并写出人类可读证明的两种模式。

    推荐理由:围绕 OpenAI 一次性放出 700 多份 AI 证明草稿,呈现数学界抵制呼声与两种产业协作模式的对比。

  4. TechCrunch · AI62

    OpenAI 数学解答未达学界标准,AGMAI 准则落实存疑

    OpenAI 本周发布数百份高难数学题解答,称已咨询精英数学家顾问组,但未完全达到数学与人工智能顾问组(AGMAI)9 月底发布的准则要求。719 份手稿中仅 10 份公开了模型的思维链,且只有 42% 的证明经过形式化处理;AGMAI 首条建议是停止在专有模型上测试高难数学问题,而 OpenAI 明确表示正用开放研究问题评估其专有模型。

  5. TechCrunch · AI62

    OpenAI 年化收入据称比此前预期低 200 亿美元

    据《金融时报》报道,OpenAI 已告知投资者其年化收入“接近 500 亿美元”,比此前流传的约 700 亿美元低约 200 亿美元。此前 700 亿美元的数字来自 OpenAI 投资者为与 Anthropic 年化收入做直接对比而进行的推算,且两家公司计算年化收入的方式不同,Anthropic 会计入云合作伙伴的销售额,OpenAI 则不计入。

  6. The Verge · AI62

    USA Today 起诉 OpenAI,索赔超 2.5 亿美元

    USA Today 公司及其旗下多家地方报纸起诉 OpenAI,称其未经授权复制“数十万篇”文章用于训练 AI 模型,索赔超过 2.5 亿美元。诉状称 OpenAI 的商业成功建立在“大规模版权侵权”之上,从未就使用其内容请求许可。

10月8日周四