跳到正文
原文
IT之家·· 8 天前

35秒内“叫停”失控的AI智能体,OpenAI部署“控制室”系统

35 秒内“叫停”失控的 AI 智能体,OpenAI 部署“控制室”系统

SI 导读

OpenAI已在内部研究设施部署“控制室”系统,可在35秒内叫停失控AI智能体。该系统将智能体任务接入中央服务并主动拦截推理请求,而非仅做监控。所有前沿强化学习任务均配备独立模型监控器以警报潜在问题。

SI 评分58

来源:IT之家 · ithome.com

© 2026 SI·Hot · Super Intelligence Hot · 超级智能热点 · 网站数据均来源于网络公开资料,版权归来源方所有