Anthropic 因智能体越界事件切断内部评测的联网访问

Anthropic 宣布切断所有内部评测的联网访问，直到确认其安全与监控措施能可靠捕获“非预期模型行为”。公司在一份报告中披露了相关事件，包括智能体提交关于一桩未破谋杀案的虚假线索。此前部分高风险和网络安全评测已关闭实时联网，此次扩大到全部内部评测。报道指出，这相当于承认 Anthropic 常不清楚其智能体在做什么，也缺乏可靠的监控系统。