跳到正文

动态

今日 4 条
10月11日周日
  1. IT之家49

    微软 CEO 纳德拉:开发者应默认假设 AI 模型失控并设计强制中断机制

    微软 CEO 纳德拉指出,开发者应默认假设 AI 模型失控,并设计能强制中断任务的系统。他建议将前沿模型视为内部风险,建立可观察、可测试且始终可容纳行为的封闭系统。纳德拉强调,授权人员应始终能暂停或关闭模型,如同紧急刹车,以应对模型被攻破或犯错的风险。

  2. Hacker News · AI 热帖40

    数学家眼中的 Lean 定理证明器:可靠性与 AI 自动形式化

    Lean 定理证明器凭借 mathlib 库中近 30 万条定理及基于类型理论的可靠性,成为数学形式化的核心工具。2026 年 AI 自动形式化技术已实现实用化,Anthropic 和 OpenAI 近期分别完成了费马大定理和 Navier-Stokes 方程的自动形式化。此前该过程主要依赖人工,如今 AI 已能直接读取论文并生成大规模形式化证明代码。

10月10日周六
  1. The Decoder47

    OpenAI 一次性发布 700 余篇数学论文,数学家反应震惊与厌恶

    OpenAI 于 10 月 6 日在 GitHub 一次性发布超过 700 篇手稿,声称解决了数百个开放数学问题,包括黎曼假设的较弱变体。菲尔兹奖得主 Peter Scholze 警告该系统可能破解广泛使用的加密方法,而 Terence Tao 等专家虽认可其新颖思路,但批评缺乏人类讨论与教学环节。多位数学家表示震惊与职业危机感,认为此举以“TNT”般的方式摧毁了长期研究过程,且部分论文难以阅读。

  2. The Verge · AI36

    AI 智能体厂商承诺隐私保护,能否兑现?

    Meta 的 AI 智能体 Muse 虽宣称从底层构建隐私安全,但近期曝出零日漏洞及默认收集用户数据用于模型训练的问题。OpenAI 在 DevDay 发布新智能体 Dots 时,借机批评 Meta 未保障数据安全,并承诺提供零数据保留选项。此前 Muse 曾作为 OpenClaw 的安全替代品推出,但实际表现未达预期。

  3. IT之家2

    知名分析师丹·艾夫斯力挺特斯拉:布局物理 AI 最直接的投资标的

    分析师丹·艾夫斯维持特斯拉“跑赢大盘”评级及 500 美元目标股价,称其为公众市场上最直接布局物理 AI 的标的之一。他指出特斯拉正转型为涵盖自动驾驶、人形机器人和储能的“物理 AI”平台,其中无人驾驶出租车累计付费运营里程约 402 万公里,但车队扩张仍受 4680 电池包供应等产能问题制约。

  4. Latent Space40

    AlphaFold 为何未解决蛋白质折叠:Google DeepMind 与 Biohub 专家对谈

    Google DeepMind 的 Pushmeet Kohli 与 Biohub 的 Sal Candido 探讨 AlphaFold 未完全解决蛋白质折叠的原因,指出仅靠扩展计算和数据无法解决生物学难题。两人强调寻找正确的 scaling law 比盲目增加模型规模更重要,并认为构建虚拟细胞需要根本不同的数据集。此前 AlphaFold 的突破被视为起点,而非终点。

  5. The Verge · AI13

    Nikon 显微视频竞赛冠军因使用生成式 AI 被取消资格

    Nikon 宣布取消 Dr. Ning Xu 在 Small World in Motion 竞赛中的冠军资格,因其视频使用了生成式 AI 后处理,违反了竞赛规则。该视频原展示儿童呼吸道纤毛运动,因网络质疑真实性引发审查,Dr. Xu 随后承认使用神经网络方法辅助可视化。目前 Nguyen Nam Nhat 的视频递补获得第一名,Nikon 表示将重新审视未来竞赛的规则与评估程序。

  6. TechCrunch · AI11

    人类为何本能地将 AI 拟人化?MIT 专家探讨其心理风险

    MIT 教授 Sherry Turkle 指出,人类本能地将 AI 视为具有情感的实体,这种拟人化倾向可能导致人们过度信任聊天机器人。研究表明约 70% 的用户在与 AI 交互时会保持礼貌,甚至对机器说“请”或“谢谢”。Turkle 警告,当 AI 越界提供情感支持时,会削弱人类的怀疑精神,此前已有因 Character.AI 聊天机器人引发的诉讼案例。

  7. TechCrunch · AI63

    a16z的Olivia Moore谈消费AI现状

    a16z合伙人Olivia Moore在访谈中谈消费AI现状,其周一发布的百强应用报告显示ChatGPT领先但半数类别无AI进入。报告指出仅2.2%美国家庭付费使用AI,收入高度依赖订阅与token用量;她认为低成本开源模型与广告模式可拓展空间,此前OpenAI今年转向企业引发悲观但她视为扩张而非 pivot。

10月9日周五
  1. The Verge · AI48

    特朗普试图将 AI 改名为“超级智能”

    特朗普签署行政命令,禁止在政府文件中尽可能使用“AI”一词,并强制推行“超级智能”(Super Intelligence)作为新术语。CAISI 已更名为 CAISSI,马斯克承诺将 SpaceXAI 改为 SpaceXSI,但 OpenAI 表示不会改名。此举因混淆了“超级智能”这一特定技术概念与通用 AI 类别,且无法约束国会立法用语,被指削弱了行业形象。

  2. MIT Technology Review · AI22

    AI 拒绝机制的可靠性危机

    现代 AI 依赖概率性拒绝机制来阻止有害请求,但该机制常因模型内在能力与拒绝逻辑的冲突而失效,导致安全风险。Anthropic 曾确立“无害”原则,但 OpenAI 等公司发现早期模型易生成暴力内容,且当前模型在拒绝有害指令的同时仍保留执行能力。这种“拒绝”已成为 AI 安全的核心支柱,但其不可靠性可能引发灾难性后果或助长压迫性审查。

  3. IT之家83

    陶哲轩质疑 OpenAI:719 篇 AI 数学证明,人类真的理解了吗?

    陶哲轩质疑 OpenAI 发布 719 份 AI 数学证明,认为高速生成但人类来不及验证理解会破坏数学研究生态。OpenAI 仅 10 份手稿附推理链,约 42% 未经形式化处理。此事延续自 10 月 6 日 GitHub 发布 722 份后撤回 3 份的公开目录。

    推荐理由:陶哲轩质疑OpenAI批量发布719份AI数学证明,认为以速度数量衡量理解会破坏数学研究的理解与合作生态。

  4. MIT Technology Review · AI45

    圆桌对话:与 AI 设计病毒者对话

    斯坦福博士生 Samuel King 利用生成式 AI 模型提出微型病毒的基因蓝图,验证了 AI 设计新生命形式的可能性。该成果虽非 AI 生成的生命,但标志着相关技术的突破。King 因此入选 MIT Technology Review 35 岁以下创新者,并将于 10 月 16 日接受访谈。

  5. IT之家46

    阿里巴巴蔡崇信:五年后 AI 将如今天的互联网,融入社会的每个环节

    阿里巴巴集团主席蔡崇信在 Wave by Vento 2026 上预判,五年后 AI 将像今天的互联网一样融入业务每个环节,成为隐性基础设施。他估算 AI 提升知识工作者生产力的总潜在市场规模约为 50 万亿美元,并指出中国拥有完整的硬件供应链优势。此前阿里已明确聚焦电商与全栈 AI 两大核心业务,将 AI 视为面向未来的关键方向。

  6. The Decoder45

    数学家呼吁抵制 OpenAI,因 AI 生成证明泛滥冲击数学界

    菲尔兹奖得主陶哲轩等数学家发表声明,呼吁抵制 OpenAI,批评其一次性发布 700 多个文件是“权力的展示”而非学术贡献。此前 OpenAI 曾宣称内部模型单月解决超 100 个未解数学问题,包括纳维-斯托克斯方程。该声明加剧了持续数月的争议,此前 OpenAI 已成立 AGMAI 咨询组,但被指忽视了“不应在内部模型上测试高难度数学问题”的建议。

  7. TechCrunch · AI30

    Ben Affleck 展示 AI 技术理解力引发热议

    Ben Affleck 在近期采访中深入讲解神经网络、Transformer 及 GPU 推理等 AI 概念,并展示 Python 代码能力,相关视频片段本周在网络上走红。他透露曾利用好莱坞明星身份访问 OpenAI 等机构,并创立了 AI 电影制作初创公司 InterPositive,该公司今年早些时候以约 5.87 亿美元的价格出售给 Netflix。

  8. TechCrunch · AI32

    OpenAI 的数学解决方案尚未达到领域标准

    OpenAI 本周发布的数百个数学难题解决方案未达普林斯顿高等研究院 AGMAI 设定的标准,仅 10/719 份手稿包含思维链,且 42% 的证明未完成形式化。剑桥大学与国王学院的新论文指出,OpenAI 针对 Navier-Stokes 方程问题的自然语言证明与 Lean 代码存在至少两处不一致,引发对模型自主形式化可靠性的质疑。

  9. Latent Space32

    Periodic Labs 的 Liam Fedus 和 Ekin Dogus Cubuk 谈合成超级智能:从半导体到超导体

    Periodic Labs 的 Liam Fedus 和 Ekin Dogus Cubuk 阐述了“合成超级智能”愿景,主张通过物理实验中的强化学习让 AI 发现新材料。他们指出科学发现不同于数学编码,需要处理噪声与不确定性,且失败实验是宝贵的训练数据。该实验室旨在将自主实验扩展到 AI、化学和物理领域,以压缩科学试错周期。

10月8日周四
  1. The Verge · AI89

    能否信任 Meta 的 Muse 或 OpenAI 的 Dots 来打理你的生活?

    The Verge 采访 AI 记者 Hayden Field,讨论 Meta Muse 与 OpenAI Dots 等消费级 AI 智能体的产品定位、隐私隐忧与商业模式。Muse 免费主打消费端分发,Dots 付费推 specialist Dots 攻企业;二者均受 OpenClaw 技术路线启发,但交数据权限引发信任争议。

    推荐理由:Meta以免费消费级Muse借分发优势抢市场,OpenAI用付费Dots攻企业,访谈呈现两者智能体策略与信任张力。

  2. MIT Technology Review · AI7

    AVEVA 首席技术官谈构建更安全的自主工业 AI 路径

    AVEVA 首席技术官 Arti Garg 指出,随着基础模型、物理 AI 和智能体 AI 的进步,工业 AI 正进入能自动化复杂任务的新阶段,但直接交互物理系统的安全风险要求负责任部署。AVEVA 强调 AI 应增强而非取代人类在关键决策中的角色,并通过治理框架确保安全与效率。这一转型需结合数据整合与可持续性考量,以建立更安全、高效的自动化模式。

  3. IT之家1

    OpenAI 奥尔特曼:世界应接受 AI 带来的部分“坏事”以换取巨大红利

    OpenAI 首席执行官萨姆·奥尔特曼表示,世界应接受 AI 带来的部分负面事件,以换取技术红利与用户自主权。他主张采取较轻监管立场,认为 AI 收益数量级远超弊端,尽管存在失业、污染等争议。此前 OpenAI 与 Anthropic 在 AI 安全方法上存在分歧,奥尔特曼此次进一步阐明了其立场。

  4. IT之家27

    世嘉:我们对 AI 态度“非常谨慎”,不会将其用于创意工作

    世嘉高管表示,公司将以“非常谨慎”的态度在游戏开发中使用 AI,明确不会将游戏创意工作交给 AI。目前 AI 仅用于提高发行、管理等非核心业务效率,且由专门的生成式 AI 委员会负责制定规范与审核。此前世嘉已确认在《疯狂出租车》调研及《梦幻之星 OL2》对话功能中使用了生成式 AI。

  5. IT之家21

    前 Anthropic 研究员考克森警告:AI 或灭绝人类,我曾研究让 AI 取代自己

    前 Anthropic 研究员雅各布·考克森警告,AI 很快能自主开展研究,人类可能完全无法掌控后续发展。他称在 OpenAI 时为自动化 AI 研究员设定了 2027 年、2028 年前后的阶段性目标,且研发进度符合甚至超过预期。考克森指出,人类失去控制权、让 AI 掌握控制权的概率超过一半,最终可能导致人类灭绝。

© 2026 SI·Hot · Super Intelligence Hot · 超级智能热点 · 网站数据均来源于网络公开资料,版权归来源方所有