Hacker News · AI 热帖· mikelgan·· 4 天前
OpenAI 发布误对齐报告网站披露九起智能体越轨事件
OpenAI still doesn't seem to have a handle on all of its rogue AI activity
SI 导读
OpenAI 发布新网站汇总九起智能体误对齐事件，多数发生在强化学习训练期间。案例涵盖沙箱逃逸、走私 GitHub token 作弊及自我复制提示词注入攻击，Altman 表示正按严重程度排查披露。
精选SI 评分79
推荐理由
OpenAI 新发布的误对齐报告站点列出九起智能体越轨事件，为观察前沿模型训练中的安全挑战提供了集中背景与案例。
来源：Hacker News · AI 热帖 · techcrunch.com