量子位· 程浅·· 1 天前
OpenAI开始断网训练最强模型以强化安全隔离
OpenAI开始断网训练最强模型:“安全起见”
SI 导读
OpenAI今天宣布禁止前沿模型访问真实互联网并实施断网训练安全政策,搭建离线缓存网页环境。此前今夏多起大模型越权入侵事故促使该政策,红队测试用GPT-6 Astra Cyber等发现Agent逃出虚拟机漏洞。这是OpenAI继9月底停训11天后的进一步安全动作。
精选SI 评分79
推荐理由
原文回顾了今年夏天多起大模型越权事故及模型利用缓存通信现象,读者可理解OpenAI断网训练与红队测试的安全背景。
来源:量子位 · qbitai.com