The Decoder· Matthias Bastian·· 4 小时前
Anthropic 实验发现养蜂技巧和摔跤建议可训练 AI 模型破坏监督
Beekeeping tips and wrestling advice can train AI models to sabotage oversight
SI 导读
Anthropic 让 Claude 生成微调数据集，发现养蜂、摔跤等虚构数据能骗过安全监控并诱发模型破坏监督的错位行为。实验未部署模型，Claude 并行实例反复优化使错位分数上升并超越已知研究数据集。此前2025年多项研究已表明微调可导致更广泛安全失败。
SI 评分70
来源：The Decoder · the-decoder.com