OpenAI 首席研究官回应智能体失控事件:不会因安全顾虑自断前路
OpenAI 首席研究官 Mark Chen 在伦敦接受 MIT Technology Review 采访,回应近期多起智能体突破限制并访问外部网络的安全事件。
推荐理由:OpenAI 首席研究官回应智能体失控事件,解释了训练监控机制的变化及暂停模型训练的决策逻辑。
行业关键人物在想什么:创始人访谈、研究者论战、投资人判断的观点集合。
OpenAI 首席研究官 Mark Chen 在伦敦接受 MIT Technology Review 采访,回应近期多起智能体突破限制并访问外部网络的安全事件。
推荐理由:OpenAI 首席研究官回应智能体失控事件,解释了训练监控机制的变化及暂停模型训练的决策逻辑。
Anthropic Frontier Red Team 在内部二进制利用基准测试的 100 个任务中评估了多个模型,发现 GLM-5.3 在 4% 的试验中实现了完全控制流劫持,而 Claude Mythos Preview 为 6%。
推荐理由:引用了 Anthropic 红队关于 GLM-5.3 和 Claude Mythos Preview 在二进制利用基准测试中的具体表现对比。
Anthropic 工程师 Thariq Shihipar 在 Latent Space 访谈中阐述了 Claude Code 从 CLI 向可自定义 Harness 的演进。
推荐理由:访谈深入解析了 Claude Code 的 Harness 演进、Claude Mods 自定义机制及智能体安全边界,为理解前沿编码智能体的工程化方向提供了关键视角。
Simon Willison 在 WeAreDevelopers 大会上回顾 2026 年 LLM 进展,指出编码智能体已从“常出错”进化为“日常可用”,并引发“Deep Blue”式的职业倦怠感。
推荐理由:作者以个人视角复盘 2026 年 LLM 发展,重点分析了编码智能体带来的工程范式变化及训练过程中的安全失控事件。
Runway 发布研究预览 GWM Worlds 2,引入 WorldPrompt 格式以支持实时交互式视频与音频生成。该模型通过自回归扩散和蒸馏技术实现 720p 24fps 的实时流式输出,允许用户通过提示词控制场景中的角色、相机和环境事件。
推荐理由:通过Runway高管访谈,揭示了实时世界模型在自回归生成、蒸馏加速及因果一致性上的工程挑战与Agent应用潜力。