跳到正文

#推理

今日 0 条
11月13日周五
  1. The Decoder63

    OpenAI数据表明前沿模型因开发者优化能力与计算而隐藏思维

    OpenAI安全团队分析数据表明,开发者为优化能力与计算在训练中使GPT-6 Astra等前沿模型隐藏思维链。研究追踪GPT-5至GPT-6 Astra,归纳出基础模型能力、架构选择、强化学习及迁移四大导致透明度下降的因素。该现象反映安全监控与算力成本的权衡,Google Deepmind近期也警告透明思维链正逐渐丧失。

11月5日周四
10月25日周日
  1. IT之家67

    三名被解雇的 OpenAI 安全研究员否认泄密,怀疑因推动 AI 透明度被针对

    三名被解雇的 OpenAI 安全研究员否认泄露机密,质疑解雇理由,怀疑因倡导 AI 透明度被针对。OpenAI 认定三人违反敏感信息管理规定予以辞退,争议核心为是否允许外部查看模型推理步骤。此事发生在行业研发更少暴露推理步骤新模型之际,或影响外部安全审计合作。

10月16日周五
10月13日周二
  1. IT之家66

    Anthropic 推出新防护措施,模型蒸馏攻击窃取数据量最高降低 99%

    Anthropic 推出新防护措施,将模型蒸馏攻击中被窃取的数据量降低了约 90% 至 99%。防护机制限制外界获取 Claude 推理过程,使提取的推理 token 数量降至十分之一到百分之一,误报率低于 0.1%,并封禁数万个相关账号。Anthropic 以智谱 AI 研发 GLM-5.3 期间尝试蒸馏为例警告安全风险。

10月8日周四
  1. The Decoder42

    AI 数学突破引发以太坊研究者担忧钱包安全可能在数月内崩溃

    两位以太坊研究者警告,AI 辅助数学可能在数月内破解加密钱包使用的签名系统。Justin Drake 建议行业准备“bunker mode”,将资金转移至从未签署过交易的地址以保护私钥。Vitalik Buterin 虽同意该风险,但指出其因迁移失误损失的资金多于被黑客攻击,并主张长期采用仅依赖哈希函数的架构。

10月3日周六
  1. The Decoder52

    DeepMind 研究人员提出“人工共生智能”作为奇点替代方案

    DeepMind 研究人员提出“人工共生智能”(Artificial Symbiotic Intelligence)作为单一超级智能奇点论的替代方案。该框架将智能视为人与智能体网络共生的社会现象,主张通过制度规则协调多方认知而非追求孤立机器。文中对比传统聚焦更大模型控制的 AGI 路径,将研发与监管扩展至社会系统架构。

© 2026 SI·Hot · Super Intelligence Hot · 超级智能热点 · 网站数据均来源于网络公开资料,版权归来源方所有