Timnit Gebru 与 Emily Bender 驳斥夏季 AI 炒作
Timnit Gebru 与 Emily Bender 撰文指出近期 AI 安全与数学突破多为营销叙事。作者认为 OpenAI 和 Anthropic 的争议事件实为安全疏忽或学术不端,而非模型失控。这种拟人化框架旨在将责任从公司转移至虚构的超级智能,从而误导政策制定者忽视数据中心的环境与社会影响。
Timnit Gebru 与 Emily Bender 撰文指出近期 AI 安全与数学突破多为营销叙事。作者认为 OpenAI 和 Anthropic 的争议事件实为安全疏忽或学术不端,而非模型失控。这种拟人化框架旨在将责任从公司转移至虚构的超级智能,从而误导政策制定者忽视数据中心的环境与社会影响。
UK AISI 利用 EvalEval 基础设施公开分享评估结果,以支持更可复现和可验证的评估科学。此次发布包含 HealthBench、FrontierMath 等五个基准在 Claude Opus 4.6 和 GPT-5.4 等六个前沿模型上的验证结果及配置信息。
MIT Technology Review 与 Times of San Diego 用 15 个月调查,绘制出首张美墨边境监控塔附近死亡事件综合地图与分析。
一位新入职大公司的工程师称,团队所有规格、代码、测试、PRD、工单及其解决方案、报告等全部由 Claude Code 生成,从 L1 到 L7 的工程师都在做同样的事——和 Claude 对话。团队无人喜欢这种状态,却被要求尽可能多地产出,管理层多次表示推代码不是瓶颈,人们每天工作 12 到 13 小时只为按回车,没有人阅读任何内容。
Latent Space 的 AINews 汇总了 9/16-9/17 的 AI 动态。Anthropic 在 Claude Code 中推出 Projects,一次对话可派生并行云端会话并在用户离开后继续运行;Google 更新 Gemini 托管智能体,新增 Credentials API 和 Files API,并称成本最多降低 30%、缓存命中率提升 22%。
Steve Yegge 关停了 Gas Town,并承认每月花费数千美元订阅编码智能体,却只做出了 Gas Town 这一个项目。Databricks 向约 3500 名工程师铺开 GPT-6 Astra,其在高复杂度系统设计与长周期任务上明显优于 Opus 5 / Sol 5.6,但整体编码支出增加约 60%,为此设立了专门的 Astra 子预算。
Hugging Face 发布 funes,一个面向 Claude Code、Codex、pi 和 Hermes 的持久记忆层,从本机已有会话构建索引,一条命令即可接入智能体。
推荐理由:funes 把编码智能体的会话轨迹变成可检索的本地记忆,读者可据此判断跨智能体、跨机器的上下文延续方式。
新基准 DiG-bench 通过 70 个隐藏规则的游戏测试 AI 的探索与发现能力,结果显示 Opus 5 和 Fable 5 表现最佳,但前沿模型在 Tier 7 难度上仍远落后于人类。
本期 Import AI 汇总了多项关于 AI 安全与能力的最新进展。多伦多大学等机构构建了利用开源 LLM 进行自我复制的 AI 病毒原型,整体攻击成功率约 37%。
本期 Import AI 汇总多项研究:Epoch 与 METR 发布 MirrorCode 基准,考察 AI 在纯 CLI 访问下重写软件的能力,25 个目标程序中有 17 个至少出现一次满分运行,Opus 4.7 用 14 小时、251 美元推理成本完成一项人类需 2 至 17 周的任务。
牛津大学、英国 AI 安全研究院、斯坦福大学和伦敦政治经济学院的研究者通过四项实验、6,923 人参与的 18,978 场对话发现,AI 系统在文本说服上稳定优于人类专家,即使专家可自选议题、提前研究、接受数小时结构化训练并获得 1,000 英镑奖金。
研究团队构建 SocioHack 基准,含 72 个沙盒社会环境,测试 AI 在信用卡积分、学校成绩等场景中"钻制度空子"的能力,RL 训练的 LLM 能以 61.25% 召回率和 90.85% 精确率重新发现历史上已被修补的漏洞策略。
Import AI 459 聚焦三项研究:英国 AI 安全研究所的论文指出用 AI 监督 AI 训练的自动化对齐研究并非万能方案;另有工作提出蛋白质折叠模型的缩放定律,以及为 AI 系统灭绝风险定价的尝试。同期还介绍了弗吉尼亚大学、Anthropic 与加拿大银行经济学家的研究,估算 2025 年美国名义 AI GDP 约 2500 亿美元,质量调整后实际年增速约 2600%。
Import AI 458 收录了一篇基于 2026 年牛津大学 HAI Lab 演讲的长文和一个设想"正向奇点"的虚构故事。演讲以 Epoch Capabilities Index(ECI)等 40 多个 benchmark 的上升曲线为切入,主张 AI 进步速度将超出多数人预期,人类必须在"探索未来"与"回避当下"之间做出选择。
Import AI 457 聚焦三项研究:SentinelOne 拆解出约 20 年前的病毒 fast16.sys,它通过篡改 LS-DYNA 970、PKPM、MOHID 等高精度计算软件的内存结果,定向破坏工程与物理仿真。
Google 与康奈尔大学合作在 PNAS 发表研究,让 GPT-4o、Perplexity、Claude 3.5、Gemini Advanced Pro 1.5、NotebookLM 和一套自建 RAG 系统回答 67 道高温超导专家级问题,由 12 位国际专家按平衡性、全面性、简洁性、证据、图像相关性和定性反馈六项指标盲评打分。