跳到正文
10月24日周六
10月23日周五
  1. MIT Technology Review · AI22

    EXL 谈如何设计可持续演进的 AI 服务框架

    EXL 提出企业 AI 的竞争优势正从选模型转向围绕模型构建的服务框架(serving harness),即架构、内存管理、调度与推理优化的工程系统。其主张先按业务负载确定约束再定架构,并以 KV cache 随并发与上下文增长导致的 GPU 显存瓶颈为例,强调先测量再优化。框架还应便于吸收新模型与新硬件,使换模型成为评估与配置决策而非架构重建。

10月22日周四
10月20日周二
  1. MIT Technology Review · AI18

    企业 AI 的新经济学:从 token 成本转向有效产出成本

    企业 AI 的衡量重点正从 token 或 GPU 小时单价转向"每个有用产出的有效成本",即完成可实际使用的工作所需的平台、模型、运营与容量总成本。企业可选择自建栈、按需消费或集成私有 AI 平台三条路径,HPE Private Cloud AI 将调度、模型选择、GPU 分区和 KV-cache 管理作为运营杠杆,并配套 90 天前置工程师服务。

10月16日周五
10月12日周一
10月10日周六
10月9日周五
10月7日周三
10月2日周五
  1. MIT Technology Review · AI50

    别被 LLM 骗了:大语言模型并不会真正推理

    前 Google DeepMind 研究员指出,LLM 靠逐个预测 token 生成答案,本质只是"系统 1"式的快速直觉,并非真正推理。他认为链式思维仍由同一套 next-token 预测产生,缺少可检视的显式认知状态、知识与推理的分离,且推理链常是事后编造。他主张借鉴 AlphaGo 的游戏树搜索架构,为 AI 建立可更新的认知状态,以实现可信推理。