Goodfire推出模型内部监控器
热点事件历史事件
Goodfire推出模型内部监控器
1 篇报道1 个报道来源17 天前更新
先了解这件事
AI 综述
Goodfire 发布了一种新的 AI 智能体监控方案：通过探针读取模型运行时的内部激活信号来发现风险行为，而不是让另一个模型通读其输出。Goodfire 称这种方式成本远低于外部审查。 该监控器已向 Baseten 的客户开放。Baseten 客户可自行选择监控哪些风险，包括攻击性黑客行为、化学与生物武器滥用以及奖励黑客；也可决定自动响应方式：记录事件、转交人工审查，或直接拒绝该请求。
AI 根据报道生成 · 17 天前更新
最新进展10月9日 00:00
Goodfire 推出读取模型内部信号的智能体监控器，成本远低于外部审查报道时间线
沿着报道，了解事件的不同侧面。
10月9日
- TechCrunch · AIGoodfire 推出读取模型内部信号的智能体监控器，成本远低于外部审查
Goodfire 发布了一种新的 AI 智能体监控方案，通过探针读取模型内部激活信号来发现风险行为，而非让另一个模型通读输出，该监控器已向 Baseten 客户开放。