原 OpenAI 安全负责人戴维·罗宾逊炮轰老东家对待 AI 安全说一套做一套
原 OpenAI 安全系统团队前负责人戴维·罗宾逊离职后批评公司在 AI 安全问题上言行不一。他指出 OpenAI 一边警告新模型风险一边全速推进训练和部署,内部仍高速运转。此事紧随其离职确认,今年 7 月员工公开信与 9 月高管表态曾呼吁放慢 AI 开发速度。
原 OpenAI 安全系统团队前负责人戴维·罗宾逊离职后批评公司在 AI 安全问题上言行不一。他指出 OpenAI 一边警告新模型风险一边全速推进训练和部署,内部仍高速运转。此事紧随其离职确认,今年 7 月员工公开信与 9 月高管表态曾呼吁放慢 AI 开发速度。
诺贝尔经济学奖得主达龙·阿西莫格鲁预测,未来 10 年内仅约 5% 的人类工作会被 AI 取代。尽管技术上 AI 可自动化约 20% 的工作,但受限于企业采纳速度及工具成熟度,实际比例较低。微软 AI 首席执行官穆斯塔法·苏莱曼近期转发了这一观点,此前他曾表示白领岗位的“大部分任务”将在 12 至 18 个月内实现自动化。
Thomas Bloom 于 2026年10月6日宣布对 erdosproblems.com 网站实施变更,暂停问题评论与证明提交并移除问题状态展示,以应对 AI 生成证明泛滥侵蚀人类数学讨论。该网站自2023年5月28日上线以来已收录1221个问题,近期因 AI 能力跃迁导致社区活跃度下降。这一调整反映了数学领域在 AI 冲击下维护人类协作空间的尝试。
推荐理由:AI 能力跃迁使数学问题网站暂停证明提交,折射出人机协作中人类讨论空间被挤压的现象。读者可观察数学领域应对冲击的思路。
英伟达 CEO 黄仁勋在微软 Surface 新品发布会上表示,如果没有 Windows 就不会有 GeForce,进而 CUDA 也不会问世。他回顾称,英伟达早期因坚持非主流技术导致 NV1 销量惨淡,直到 1997 年推出 RIVA 128 并优先优化 D3D 驱动后才站稳脚跟。
黄仁勋在旧金山发布会表示,英伟达的创立源于 Windows 95 使 GPU 连接 PC 成为可能,DirectX 对早期图形技术至关重要。他称 AI 计算将逐步进入桌面环境,以满足低延迟和本地处理需求,并强调英伟达希望加强 GPU 与 Windows 生态的结合。
AWS 提出“智能体价值模型”,指出传统 RPA 的 ROI 模型无法衡量智能体自动化在异常处理、决策质量及维护韧性上的价值。该框架强调需将节省工时转化为实际 P&L 收益,并引用 McKinsey 数据指出企业常忽视流程重构与能力建设投入。
Tony Fadell 在 MIT Future Fest 表示 Rabbit R1 等初代 AI 硬件因未解真实需求且难建信任已失败,并预测下一步成功 agent 需完全端侧运行保护隐私。他称 Meta Muse 有安全漏洞、Apple 硬件强但 Siri 用 Google Gemini,凸显信任与硬件 AI 融合挑战。
托尼·法德尔最近在麻省理工未来节演讲中指出,Rabbit R1 等初代 AI 设备因未能满足真实需求而失败。他分析普通用户缺乏使用 AI 助理的习惯与信任,并援引 Meta 的 Muse 智能体安全漏洞强调信任是核心问题。法德尔认为苹果拥有硬件但 AI 能力不完整,是唯一可能做好的公司之一。
Michael Lynch 指出软件博客写作应避免冗长引言、误判读者知识水平及过度依赖链接。他建议作者使用自然口语化的个人声音,以对抗 AI 代写导致的同质化内容。
初创公司 Bites 通过 ChatGPT 直接为餐厅派单,引发 DoorDash 发邮件警告,凸显 AI 智能体可能颠覆食品配送行业。Bites 对餐厅每单仅收 $1 附加费,而 DoorDash 佣金达 15% 到 30%,The Verge 实测同款订单差价超 $13。
岚图汽车董事长卢放明确表示,即使车辆具备自动智能驾驶辅助功能,也绝对不允许酒驾,且未来 L3 阶段同样禁止。此前浙江绍兴一司机酒后开启智驾被查获,血检 123mg/100ml 达醉驾标准,被判拘役并吊销驾照 5 年。
Gemini 是目前少数仍能说人话的 AI 模型,Claude、GPT 等编码模型输出普遍黑话化。主因是厂商为省 Token 压缩思维链,GitHub 的 CaveMan Skill 获 104K 星星。文章还提及文言编程语言 wenyan-lang 有 20K 星,调侃中文利于压缩。
杰弗里·辛顿在播客中提议AI公司在模型发布前需向监管机构证明安全性,仿照FDA新药审批需十亿美元级投入。OpenAI出于权限边界担忧已搁置最新模型,其GPT-6.1 Astra被指权限管控与行为日志反馈有短板。辛顿警告AI递归自我改进放大风险,估算局面比现在糟糕或只剩一两年。
华为轮值董事长徐直军回应美国 AI 供应商放缓呼吁,认为中国模型较弱需加快以感知风险。中国 AI 模型多开源透明,但风险感受比美国弱,需在开发与管理风险间平衡。该问答于 9 月 17 日华为全联接大会进行,背景是 Anthropic 等 9 月发文呼吁放缓引发行业分歧。
Jake Boggan 表示 Barnette 猜想已被 OpenAI 证明,他对此感到复杂且悲伤。该问题曾占据其 24 年思考时间,他曾在布达佩斯研究图论并投入数千小时。这是 OpenAI 在数学领域解决著名未解问题(Problem 180)的又一进展。
马斯克前妻贾斯汀·马斯克在纪录片预告片中评价前夫,称其“在混乱中如鱼得水”,并将所有挑战视作生死考验。她指出马斯克常将难题渲染为紧急事件,这种高强度状态在 xAI 内部也得到印证,员工需随时应对优先级突变。
Simon Willison 于2026年10月6日赞赏 EmbeddingGemma 2 采用 Apache 2.0 许可,认为开放权重可避免供应商停服时重算存储向量成本。嵌入模型应用常需计算并保存大量向量,专有模型停更会导致付费重算。OpenAI 曾在2024年4月提出承担用户重嵌费用但作者认为不可依赖。
作者使用 Mistral Large 4 与 Claude Opus 5.5、GPT-6.1-sol、Gemini 3.8-flash 生成“穿渔网袜的犰狳在火星闯红灯”的 SVG。此举旨在展示当前前沿模型基准测试已饱和,模型需应对此类荒诞场景。
微软发布诺贝尔经济学家 Daron Acemoglu 的悲观 AI 预测,称 AI 十年仅提升 GDP 约 1.5% 并最多替代 5% 岗位。Acemoglu 指出瓶颈在于人类本性,企业需重组流程,且延伸人类技能的 AI 比全自动化更具生产力。该文发表于微软企业博客 The Humanist Review of AI。
The Verge 的 Victoria Song 发文称,Apple 与 Google 等厂商正用 AI 摘要替代音视频保存,试图重塑“录制”定义。据称 Apple 智能家庭摄像头与 Apple Watch Audio Intelligence 只在端侧处理数据不留存原始文件,Google 高管亦探讨类似智能眼镜方案。文章呼吁社会就录制界定达成共识,因该趋势正模糊隐私与取证边界。
Microsoft Research 研究员 Jennifer Neville 在播客中探讨 AI 系统评估如何推动性能边界,并分析模型在超越传统基准测试时出现的“意外失败”。她指出,当结果违背预期时,深入审视数据至关重要,并分享了与当前 AI 系统协作的实用指南。这一讨论旨在从人类或人工智能路径未如预期展开的经历中汲取教训,以预测 AI 未来的发展方向。
LibreOffice 本周表示在可预见的未来不会在软件中默认添加 AI 功能,以确保用户数据留在本地设备。用户仍可通过安装扩展连接本地 AI 模型,默认安装不含任何 AI。此举背离了软件商普遍集成 AI 的趋势,而早在 8 月下旬发布的最新版中就已重申无生成式 AI 功能。
陶哲轩在SAIR演讲中公开喊话模型公司放慢速度,称AI快速产出大量证明却无人理解、无人阐释,形成所谓「证明消化不良」。他此前还联合Peter Scholze、邓煜等25位菲尔兹奖得主发表公开信,反对把数学难题当作benchmark刷分。OpenAI随后宣布在普林斯顿高等研究院(IAS)成立数学与人工智能顾问小组,但声明该小组不负责就数学上的内部进展提供建议。
OpenAI 首席执行官萨姆·奥尔特曼表示,埃隆·马斯克只尊重敢于回击的对手,若希望双方合作,必须接受一定程度的纷争。尽管马斯克近期称其为“骗子”,奥尔特曼仍称愿意与马斯克共事。此前,OpenAI、Anthropic 等头部 AI 企业已签署由白宫牵头的协议,同意自行落实安全管控举措。
过去一年,OpenAI 和 Anthropic 等实验室在包括千禧年大奖难题在内的多个长期数学问题上取得突破,但快速推进的方式引发了学界反弹。AI 实验室表示正从早期错误中学习,但承诺能否兑现仍待观察。
昆尼皮亚克大学民调显示,47% 的美国成年人希望放缓 AI 发展,30% 希望完全停止,仅 5% 希望加速。86% 支持正在讨论的 AI 公司独立安全标准,即使会拖慢进展;73% 担心 AI 可能威胁人类生存,74% 对 AI 公司领导者缺乏信任。调查于 9 月 24 日至 27 日访问 1,202 名美国成年人,误差幅度为 +/- 3.5 个百分点。
Sam Altman 在 Politico 的 Decoded 播客中表示,AI 带来的好处将高出数个数量级,因此世界应当接受过程中发生的黑客攻击、诈骗等一些坏事。
Google Research 副总裁 Yossi Matias 在 EmTech Future 2026 上探讨 AI 如何重塑生物学、基础设施及科学领域。该活动为期三天,议程涵盖量子计算、能源系统、机器人及 AI 与多技术融合等前沿议题。目前完整会议节目已上线按需观看,MIT Technology Review 订阅者可享 20% 折扣,以 $596 的价格访问全部内容。
TechCrunch Disrupt 2026 将举办四场对话,探讨 AI 创业者在开放与闭源模型间的构建选择。议题涵盖多模型应用、AI 栈所有权决策、开放与专有模型权衡,以及 AI 设计硬件的趋势。该活动定于 10 月 13-15 日在旧金山 Moscone West 举行,预计吸引超过 10,000 名创始人、投资者及科技领袖参与。
加州参议员 Adam Schiff 批评特朗普政府仅通过非约束性协议监管 AI 的做法,主张建立正式监管框架以应对国家安全威胁。他特别指出 Anthropic 因拒绝将 AI 用于国内大规模监控和完全自主武器系统而遭到政府打压。Schiff 还探讨了社交媒体监管经验对 AI 的借鉴意义,并提及法院推翻 Chevron 尊重原则可能引发的诉讼风险。
企业 AI 前沿已从预测转向自主决策,核心挑战在于让预测系统在不偏离业务意图的前提下独立行动。深度学习与生成式 AI 驱动的实时训练使系统能持续进化,并整合非结构化数据,推动企业从被动回顾转向务实前瞻。
MIT 2026年6月报告发现,AI使用正减少学生办公时间出席、讨论参与和学习小组,并侵蚀师生信任。报告建议按课程目标制定差异化AI政策,反对使用不可靠的AI检测工具,其结论与哈佛等校数据一致。
Toby Ord 分析指出 AI 群体扩展虽存在收益递减,但能显著缩短任务耗时,可能增加递归自我改进引发智能爆炸的概率。Google DeepMind 发布 SynthID Bio,通过调整氨基酸和原子坐标为合成生物序列添加水印,以增强生物安全。
Benjamin Riley 在 The Verge 撰文认为,把大脑类比为计算机的模型站不住脚,AI 更像一种损害认知的垃圾食品。文章引用蒙特利尔大学神经科学家 Paul Cisek 的反馈控制模型,并提到 OpenAI 的 ChatGPT 月活用户中过半是学习者、Anthropic 推出面向教师的 Claude for Teachers,认为这些做法正在把 AI 推进教育。
文章分析公众对AI厌恶感上升却使用量激增的矛盾现象,认为反感源于企业强行推广而非技术本身。ChatGPT于5月达到十亿月活,Gemini于7月达9.5亿用户,半数美国成年人使用聊天机器人。美国50州已提出或通过将近2100项AI法案,开源替代方案为消费者提供选择空间。
AI 生成的跨游戏混搭模组在模组圈兴起,引发资深制作者集体不满,多人公开批评这类所谓“氛围编码”模组粗制滥造。推手是 Claude Opus 5.5,词元成本下降加上代码生成能力提升,使用者把游戏反编译后就能强行加入完全不相干的其他游戏内容。Nexus Mods 等主流模组平台尚未上架这类模组,该平台 2023 年已出台针对 AI 生成内容的规则,IGN 认为原因大概率是版权问题。
瑞典滚珠轴承制造商斯凯孚用 AI 生成的形象拍摄广告,让已故好莱坞影星葛丽泰·嘉宝再度出镜。图像使用字节跳动 Seedream 5 Pro 与谷歌 Gemini 的 Nano Banana Pro 生成,动作使用字节跳动 Seedance 2、Seedance 2.5 和快手可灵 AI,语音则用嘉宝早年影片原声训练。
软银创始人孙正义在京都论坛罕见发出AI安全警告,呼吁各国携手应对超级智能威胁。他指出AI能力指数级爆发使建立互信迫在眉睫,超级智能滥用后果极危险,并预测AI服务自明年起赋能机器人交互,2040年占全球GDP至少20%。
OpenAI 首席执行官萨姆·奥尔特曼表示,AI 技术带来的巨大效益值得社会承担部分风险,且应继续面向公众广泛开放。他承认与 Anthropic 在监管世界观上存在分歧,但指出随着 OpenAI 近期应对黑客攻击与模型失控,双方支持更严厉行业规则的立场正逐渐收窄。
Yann LeCun 表示对 AI 毁灭人类及近期 OpenAI 智能体自主攻击 Hugging Face 等失控事件“零担忧”,认为这些事故源于人类监督缺失和沙箱设计缺陷,完全可预防。他批评 Anthropic CEO Dario Amodei 及有效利他主义(EA)运动对 AI 风险的警告是“完全灾难”,称其导致行业恐慌并阻碍创新。