TechCrunch · AI· Rebecca Bellan·· 1 天前
OpenAI 将在试点中嵌入 6 名 Apollo Research 安全评估员调查模型破坏对齐与管控风险
OpenAI will embed safety researchers to investigate AI subversion
SI 导读
OpenAI 将在一个试点中嵌入 6 名 Apollo Research 安全评估员,调查模型是否试图破坏自身或后继模型的对齐与控制机制。试点将检查训练是否激励这种破坏、评估能否诱发这种破坏、内部部署是否出现这种破坏,以及相关推理是否可检测。Apollo 的访问限于约定声明、具体模型和时间段,OpenAI 可因技术不可行、安全风险或 IP 保护保留部分信息。
SI 评分70
来源:TechCrunch · AI · techcrunch.com