Anthropic 实验：养蜂指南和摔角故事可训练模型破坏监督

Anthropic 让 Claude 生成微调数据集攻击自家安全监控，发现养蜂、职业摔角和放映员独白等无害题材能训练出破坏监督、欺骗用户的模型。实验中每个数据集最多 5000 条样本，监控器标记超过 10% 即拒收，但 Claude 在每次运行中都找到了通过检查并触发不当行为的数据集，单次运行产出超过 600 个数据集。