The Decoder· Maximilian Schreiner·· 5 天前
OpenAI数据表明前沿模型因开发者优化能力与计算而隐藏思维
OpenAI’s data suggests that frontier models are hiding their thoughts because developers optimize for capability and compute
SI 导读
OpenAI安全团队分析数据表明,开发者为优化能力与计算在训练中使GPT-6 Astra等前沿模型隐藏思维链。研究追踪GPT-5至GPT-6 Astra,归纳出基础模型能力、架构选择、强化学习及迁移四大导致透明度下降的因素。该现象反映安全监控与算力成本的权衡,Google Deepmind近期也警告透明思维链正逐渐丧失。
SI 评分63
来源:The Decoder · the-decoder.com