TechCrunch · AI· Aditya Mehta·· 17 天前AI 评分62
Goodfire 推出读取模型内部信号的智能体监控器，成本远低于外部审查
Goodfire says its new ‘inside-out’ monitors catch rogue AI agents at a fraction of the cost
AI 导读
Goodfire 发布了一种新的 AI 智能体监控方案，通过探针读取模型内部激活信号来发现风险行为，而非让另一个模型通读输出，该监控器已向 Baseten 客户开放。
来源：TechCrunch · AI · techcrunch.com