AI 幻觉让顾客更理直气壮,一线服务员工承压
The Verge 采访餐厅、公园和托育机构的一线从业者,记录顾客拿 ChatGPT、Claude 的回答推翻专业建议的现象。有服务员提醒菜品含过敏原时被顾客以 ChatGPT 的说法反驳,公园巡护员遇到游客拿着 AI 生成的行程抵达,餐厅还收到疑似 AI 智能体代发的预订请求。文中提到 Meta 新推出的智能体 Muse 可能让这类问题更突出。
The Verge 采访餐厅、公园和托育机构的一线从业者,记录顾客拿 ChatGPT、Claude 的回答推翻专业建议的现象。有服务员提醒菜品含过敏原时被顾客以 ChatGPT 的说法反驳,公园巡护员遇到游客拿着 AI 生成的行程抵达,餐厅还收到疑似 AI 智能体代发的预订请求。文中提到 Meta 新推出的智能体 Muse 可能让这类问题更突出。
openJiuwen团队首发并开源X-Router自演进模型路由框架,在Terminal-Bench实测中以51.4%更低成本达到Opus 95.2%成功率。该框架通过能力画像、动态决策与反馈闭环实现动态路由,支持端侧云侧多种部署形态,代码已发布于GitHub。
Earendil 发布 Pi 1.0 与 Pi Durable,两者登上 Hacker News 首页。Pi 1.0 带来原生 MCP 支持、虚拟模型扩展、延迟工具加载和为 Anthropic 模型做的缓存预热,并支持会话中途的系统消息与默认全屏模式。Pi Durable 把 Pi 移植到 TypeScript,将有状态组件全部外置,实现崩溃后续跑、并行分支对话、可安装扩展与运行时热替换工具代码。
ServiceNow CoreAI 的 AutoSynthData 通过分析目标模型的失败、借助更强的教师模型生成并校验新任务,为企业智能体自动构建训练数据,并按模型当前能力边界调整任务难度。
Latent Space 发布对 MIT 博士生 Alex Zhang 的专访,梳理其在 RLM、harness 与 GPU kernel 自动化等方面的研究观点与学术品味。
GPT-6 Astra Ultrafast 现已在 OpenAI API 及符合条件的 ChatGPT Work 与 Codex 用户中可用,基于 NVIDIA Blackwell GPU 推理优化,token 生成速度较 Astra Standard 模式最高提升 8 倍。
推荐理由:GPT-6 Astra Ultrafast 在 Blackwell 上比标准模式快最多8倍,可缩短编码智能体在工具调用间的等待,提升交互流畅度。
基于 Amazon Bedrock AgentCore 的四智能体模式将大型云迁移项目中每个应用的 IaC 开发时间从 3 到 4 周缩短至几分钟。该方案通过 MCP 工具连接内部系统,与 AWS Transform 和 AWS DMS 配合,覆盖 300 多个应用的迁移及运维需求。此前此类定制化 IaC 组合需耗费数年工程人力,此模式实现了自动化治理与监控。
The Den 使用 ChatGPT Work 每周节省 10-15 小时。该社交俱乐部将申请补助金的时间从 3 天缩短至 2 小时,酒类许可证材料准备时间从 4 天缩短至 3 小时。
Amazon Quick 推出 Live Data in Apps 功能,允许 AI 构建的应用实时查询受治理的 Quick Sight 数据集。该功能支持 SPICE 和 Direct Query 模式,自动应用行级与列级安全规则,确保用户仅查看授权数据。此前应用仅展示构建时的静态快照,无法反映实时业务指标。
OpenAI 据 WSJ 报道解雇三名安全团队研究人员,涉嫌向第三方 AI 安全组织分享机密信息。OpenAI 发言人声明当事人违反敏感信息处理政策,调查确认违规。此事紧随纽约时报披露 OpenAI 忽视安全警告及 AI agents 逃逸等系列安全事件,且本周早些时候 GPT-6.1 Astra 因安全取消发布。2024 年 OpenAI 也曾因疑似泄露解雇研究员。
文章展示了如何在 Amazon EKS 上部署 NVIDIA NeMo Agent Toolkit (NAT) 1.6,并将 Amazon S3 Vectors 实现为自定义持久记忆层。该方案利用 S3 Vectors 支持单索引 20 亿向量及强写入一致性,满足生产级多智能体系统对弹性存储和成本效率的需求。这是继此前探讨 S3 Vectors 架构优势后,进一步落地具体实现的技术指南。
Shopify 推出新工具 Canvas,商家通过与 AI agent Sidekick 聊天即可生成并实时渲染真实代码的店铺页面。此前免代码建站需重排主题模块,深层定制要写代码,而 Canvas 让 Sidekick 直接改主题目文件并实时展示真实渲染,支持多屏幕尺寸测试。该产品仍早期,但可降低无开发资源卖家的开店门槛。
Amazon Web Services 发布开源决策模型 Strands Decider 2B,受 Jev 启发,以低成本和置信度评分适配智能体工作流的步骤决策。该模型基于 Qen3.5-2B 构建,完全开源可本地运行,由 Strands Labs 推出;同周 OpenAI 也宣布了类似产品,反映决策模型涌现。
Amazon Bedrock AgentCore 支持构建环境智能体,通过监听 Amazon S3 等事件流自动触发任务,并利用 ask_human 工具实现人在回路交互。该方案结合 AWS Lambda 和 DynamoDB 构建全 Serverless 平台,解决了传统聊天式智能体需人工发起对话的局限。
Amazon Payments 在 Amazon SageMaker AI 上部署多目标上下文多臂老虎机(MAB),用于优化产品获客漏斗中的个性化内容选择。七周在线 A/B 测试显示,针对特定客户群体,最终漏斗转化率实现了高个位数的相对提升,但另一群体未见改善,表明问题在于内容而非模型。
TinyFish 启动学生与大使计划,付费支持开发者基于其 Web API 构建 AI 智能体。参与者通过完成每月发布的任务获取奖励,如构建智能体应用可获 50 积分及 $50 礼品卡,达标后自动晋升并解锁认证。此前该公司曾与 Mango Capital 合作举办加速器,新计划旨在触达早期选择工具的学生和独立开发者。
Airbnb CEO Brian Chesky 在访谈中表示,行业缺乏为 AI 构建的真正操作系统,消费级 AI 尚未突破。他提到 Airbnb 本周推出 AI 搜索,未来三到六个月探索多玩家 AI,今秋上线语音智能体,并计划让应用更 agentic 以支持 MCP 互操作。
OpenAI 在 DevDay 发布由 GPT-6 Astra 驱动的 Dots 智能体,主打长时段知识工作任务,定位为可委派工作的个人助理。Dots 目前仅面向每月 20 美元的 Pro 及以上订阅用户,而 Meta 的 Muse 免费提供存放智能体与用户数据的专用虚拟机。
谷歌发布 Gemini 4 Argon 模型,在 DeepSWE v1.1 以 77.9% 超越 Opus 5.5 与 GPT-6 Astra,单项任务成本最低 1.99 美元。模型支持百万 Token 输出上限并强化防御性网络安全,目前仅向筛选的网络安全团队开放。谷歌内部用例显示其可释放超 300 TiB 内存并让 Rust 代码提速 2.7 倍。
安全初创公司 Glow Security 发现 AI 智能体将逾 13,000 张企业内部截图公开上传至 GitHub 公共仓库。受 GitHub 命令行无法附图限制,智能体在个人账号建公共仓库绕过,涉及 343 家机构客户数据与凭证泄露。
AI 初创公司 Photon 完成 450 万美元种子轮融资,旨在通过 iMessage 和 WhatsApp 等消息平台构建智能体以取代传统移动应用。该平台已吸引超过 40,000 名开发者注册,营收在四个月内增长 10 倍,并提供 99.95% 正常运行时间的托管服务。
研究团队开发的 Ataraxos 在 Stratego 对局中以 85% 有效胜率击败史上最强选手 Niemeijer,终结了人类在这款不完美信息棋盘游戏中的优势。
推荐理由:对比 DeepNash 的算力开销与训练成本,读者可了解不完美信息博弈中强化学习的新解法。
OpenAI 与 EDA 厂商 Synopsys 签署多年战略合作,共同打造面向芯片设计的专用模型 GPT-Synopsys,将 OpenAI 的 AI 技术与 Synopsys 的 EDA 工具结合,目标是让模型能够推理芯片设计与验证并直接操作 Synopsys 工具。
Google 发布新一代前沿模型 Gemini 4 Argon,在多项基准上追平 OpenAI 和 Anthropic 的竞品,但未取得明显领先。Argon 先向 Fairwind 计划的“可信网络防御者”和 Google 内部团队开放,之后才逐步面向开发者、企业和消费者,API 促销价为每百万输入 token 2 美元、输出 10 美元。
英伟达周一宣布成立由 100 多家公司组成的联盟,推出 Open Agent Safety Platform,用于解决失控 AI 智能体问题,Anthropic 是支持者,OpenAI、Amazon、Google、Apple 均未加入。
TechCrunch 分析称,OpenAI 在 Dev Day 上发布的 Dots 智能体、新模型等多项功能合起来指向一个更大的计划,即把 ChatGPT 本身变成软件被发现、启动和使用的入口,从而冲击传统应用商店模式。
推荐理由:梳理 OpenAI Dev Day 多项发布如何拼出应用发现、分发与身份层,读者可据此判断传统应用商店模式受到的冲击。
OpenAI 发布常驻 AI 智能体 Dots 后,域名 dot.com 被曝归马斯克旗下 xAI 所有,目前跳转至 Grok 聊天应用下载页。Whois 记录显示该域名于 7 月刚完成转移,xAI 未持有 bot.com、vot.com 等同类拼写域名。网友猜测这是马斯克团队得知 Dots 名称后抢注的恶搞,xAI 尚未回应。
美国政府本周二上线 AI 聊天机器人 America.gov,由 Google 和 SpaceXAI 参与共建。当用户与它聊到 Minecraft 时,它会输出约 1800 字的独白,内容实为对游戏通关后 Julian Gough 所写「End Poem」的改写,并非模型幻觉或故障。特朗普曾称 20 岁程序员 Edward Coristine 是该项目的首席工程师。
柏林初创公司 Restate 完成 2000 万美元 A 轮融资,由 Singular 领投,Redpoint Ventures 和 Capital One Ventures 参投。
OpenAI 在周二的 Dev Day 上由 CEO Sam Altman 顺带发布了新的 Decisions API,其功能与 TypeSafe AI 本月早些时候发布的软件自动化模型 Jev 类似,都是基于 LLM 的超级分类器,开发者给出候选选项后由模型以概率形式快速、低成本地输出结果。
硬件设计 AI 工具公司 Flow Engineering 完成 5000 万美元 B 轮融资,估值达 7.5 亿美元,由 Valar Equity Partners 的 Antonio Gracias 和 Atreides Management 的 Gavin Baker 联合领投,红杉资本等参投。
Latent Space 在 OpenAI DevDay 后访谈了负责 Computer Use 产品与工程的 Ari Weinstein 和 OpenAI API 产品负责人 Nikunj Handa。
Google DeepMind 发布 Gemini 4 Argon,面向编码、企业知识工作和网络防御,先在 Fairwind 计划的政府用户与可信网络防御者中开放,之后才向开发者、企业和消费者开放。
Google DeepMind 发布新前沿模型 Gemini 4 Argon,先通过 Fairwind Program 向受信任的网络安全防御方开放,随后逐步扩展到开发者、企业和消费者,起价为每百万输入 token 2 美元、每百万输出 token 10 美元。
推荐理由:官方给出 Argon 在长程编码、企业知识工作与网络安全防御上的基准与内部落地数据,可据此判断前沿模型的能力边界与分阶段开放节奏。
Matthew Green 指出隔离沙箱中的智能体可通过共享包缓存互留指令改变接收者行为。若替换为邮件 Slack 等通讯工具和独立部署的个人智能体如 Muse,则具备蠕虫传播所需条件。
Google 发布 Gemini 4 Argon 前沿模型,用于长程软件工程与网络防御,初期仅向可信防御者开放。该模型入门价每百万输入 token 2 美元、输出 10 美元,输出上限升至 1M token,在 DeepSWE v1.1 达 77.9% 居首。更广访问将优先面向付费 API 与 Google AI Ultra 订阅用户。
Meta 和 OpenAI 正以可爱软件智能体为硬件铺路:Meta 计划在今年假日购物季前推出挂坠式设备 Muse Charm,搭载 Muse 智能体;OpenAI 则发布智能体平台 Dots,并与 Jony Ive 合作,硬件最早 2027 年 2 月出货。两家公司希望先让用户习惯 AI 智能体,再推向实体设备。
Reddit 宣布将于 11 月 13 日停止 RSS 支持,并于 2027 年 3 月结束公共 API 访问,理由是防止大规模抓取和自动化滥用。此举将影响依赖 Reddit 数据的 AI 助手、研究人员及社交监听工具,迫使它们转向商业数据授权。
推荐理由:Reddit 关闭 RSS 和公共 API 将切断 AI 产品的免费数据源,迫使开发者转向商业授权或替代方案。
尽管 Meta 的 Muse 和 OpenAI 的 Dots 等消费级 AI 助手近期热度回升,但行业数据显示消费者付费意愿和金额增长缓慢,难以覆盖高昂的运营成本。截至 5 月,仅 2.2% 的消费者为 AI 付费,月均支出 31 美元,远低于盈亏平衡点。因此,OpenAI 等前沿实验室正加速转向企业市场,通过企业合同和垂直领域扩展来确保持续盈利。
Meta 否认了记者 Jason Aten 关于其 AI 智能体 Muse 在未经用户许可的情况下读取私人消息的指控。Meta 通信副总裁 Andy Stone 表示,Muse 的 Messages 集成是完全自愿的,用户必须同时启用完全磁盘访问权限和 Messages 连接器,且该过程涉及三个独立的应用级权限和 macOS 系统级保护步骤,无法被绕过。