跳到正文
原文
TechCrunch · AI· Rebecca Bellan·· 1 天前

OpenAI 将在试点中嵌入 6 名 Apollo Research 安全评估员调查模型破坏对齐与管控风险

OpenAI will embed safety researchers to investigate AI subversion

SI 导读

OpenAI 将在一个试点中嵌入 6 名 Apollo Research 安全评估员,调查模型是否试图破坏自身或后继模型的对齐与控制机制。试点将检查训练是否激励这种破坏、评估能否诱发这种破坏、内部部署是否出现这种破坏,以及相关推理是否可检测。Apollo 的访问限于约定声明、具体模型和时间段,OpenAI 可因技术不可行、安全风险或 IP 保护保留部分信息。

SI 评分70

来源:TechCrunch · AI · techcrunch.com

© 2026 SI·Hot · Super Intelligence Hot · 超级智能热点 · 网站数据均来源于网络公开资料,版权归来源方所有