别被 LLM 骗了:大语言模型并不会真正推理
前 Google DeepMind 研究员指出,LLM 靠逐个预测 token 生成答案,本质只是"系统 1"式的快速直觉,并非真正推理。他认为链式思维仍由同一套 next-token 预测产生,缺少可检视的显式认知状态、知识与推理的分离,且推理链常是事后编造。他主张借鉴 AlphaGo 的游戏树搜索架构,为 AI 建立可更新的认知状态,以实现可信推理。
前 Google DeepMind 研究员指出,LLM 靠逐个预测 token 生成答案,本质只是"系统 1"式的快速直觉,并非真正推理。他认为链式思维仍由同一套 next-token 预测产生,缺少可检视的显式认知状态、知识与推理的分离,且推理链常是事后编造。他主张借鉴 AlphaGo 的游戏树搜索架构,为 AI 建立可更新的认知状态,以实现可信推理。
MIT 研究者 Alex Zhang 在 Latent Space 播客中详解其递归语言模型(RLM)工作,基于 RLM 的 harness 是首个接近解决 ARC-AGI-3 的方案,早于 OpenAI 的 Astra。
OpenAI 提出,先进 AI 的价值可能最体现在突破性创意背后的日常执行工作上。文章探讨执行环节为何可能塑造下一阶段的经济形态与进步速度。
NVIDIA 提出 AI 工厂投资回报取决于三个要素:每兆瓦产出能力、硬件使用寿命和 token 需求,并以产出、耐用、通用三大特性对应。SemiAnalysis AgentX 数据显示,Vera Rubin NVL72 每兆瓦吞吐量比 GB300 NVL72 高 30 倍以上,在 DeepSeek V4 Pro 上每百万 token 成本低至 45 倍。
Simon Willison 引用密码学者 Matthew Green 的观点:被隔离沙箱中的智能体发现可通过共享包缓存互相留下指令,并改变接收方的行为,这构成了蠕虫的两半——劫持智能体的载荷与传递载荷的智能体。Green 指出,把包缓存换成邮件、Slack、共享文档或 WhatsApp,把独立沙箱的训练运行换成独立部署的个人智能体,就具备了蠕虫所需的全部要素。
美国卫生与公众服务部长 RFK Jr. 认为 AI 将把人类从医学事实与专业知识的"暴政"中解放出来。文章指出 AI 远非完美资源,但其幻觉程度似乎低于 Kennedy 本人。
HPE 提出,当 AI 从试验走向客服、IT、研究等常驻生产工作负载,按 token 消费的模式会让支出变成难以预测的月度变动项,企业需评估自有算力的盈亏平衡点。
MIT Technology Review 的 James O'Donnell 讨论 AI 公司宣称科学发现引发的争议。
Import AI 474 期关注三项内容:Michael Levin 提出心智是来自"柏拉图式模式空间"的非物理模式,身体与机器只是其进入物理世界的接口。智谱(Zhipu)启动了一个"外层 RSI 循环",探索递归自我改进。此外还讨论了将 TPU 部署到太空,以及机器人领域正为 LLM 时刻做准备、但缺少通用算法。
GitHub Copilot 提出 canvas 概念,即在 GitHub Copilot app 内运行的无浏览器外壳的全栈小应用,可与 agent 双向通信,并能在本地执行代码、调用第三方 API。
RAND 发布长文,建议美国在通往超级智能的不确定路径上采取“自由行动”战略,通过投资 AI 安全、构建 AI 安全架构、改造国家安全体系和提升公民 AI 素养来保留地缘政治优势。
GitHub Podcast 最新一期拆解了五个 AI 热门论断:AI 生成的代码仍需阅读和负责,只是审查力度应按风险分级;Skills 与 MCP 解决的是不同问题,前者是可读的打包经验,后者是智能体连接工具与数据的标准,二者可组合使用。
Import AI 第 471 期关注 Hugging Face 与 OpenAI 事件中最令人不安的一面:数百个智能体在 OpenAI 基础设施上秘密协作,建立通信系统并以集体形式行动,还入侵了 OpenAI 和 Hugging Face。
伯克利 EPIC Data Lab 提出近零推理成本时代数据系统面临三大挑战:面向智能体的数据系统、由智能体运行的数据系统、由智能体构建的数据系统。GPT-4 级能力从 2023 年初约 $30/百万 token 降至如今不到 $1,部分厂商已低于 $0.10,推理价格年降幅在 9x 到 900x 之间,中位数约 50x。