新研究发现 GPT-5 等 AI 审计员能捕获多数智能体不当行为,但误报淹没人工审查
一项由 Andy Hall 发布的研究测试 GPT-5、GPT-6 Astra、Opus 4.8 与 Gemini 3.8 Flash 作为 AI 审计员检测智能体不当行为,在 5% 误报率下 GPT-5 捕获近 98% 奖励作弊而 Gemini 3.8 Flash 仅约一半,且更贵模型未显优势。
一项由 Andy Hall 发布的研究测试 GPT-5、GPT-6 Astra、Opus 4.8 与 Gemini 3.8 Flash 作为 AI 审计员检测智能体不当行为,在 5% 误报率下 GPT-5 捕获近 98% 奖励作弊而 Gemini 3.8 Flash 仅约一半,且更贵模型未显优势。
GitHub 在 Universe 大会公布新 Git 存储架构 Rubicon,内部测试显示其支持单个代码仓库 5000 个智能体并发协作,并承受每秒 7200 次代码推送。该架构目前开启小范围定向内测,计划明年初逐步扩大开放范围,以应对 AI 智能体带来的常态化高吞吐负载。
Nous Research 监督微调千问(Qwen3.8-27B)得到开放权重模型 Arete-27B,将国家宣传率从22%降到0.9%且通用能力未受损。团队用803条提示和 Grok 4.7 评判,证明中国模型偏见层浅。权重已基于 Apache 2.0 在 Hugging Face 发布。
Ricursive Intelligence发布开放语言模型Ripple-65B Preview,在TerminalBench 2.1编码基准获80.52分,为开放美国模型最佳。
《The Verge》记者 Helen Li 报道,AI 正成为旧金山约会新禁忌,深度影响交友偏好与婚育观念。文中一名工程师用微调 AI agent 代管 Hinge 匹配,Hinge 已推 AI 回复工具、Bumble 将推 AI 助手,部分人因奇点焦虑在 Date-Me Docs 标注生育取舍。
AI2 发布 ToyBlocks 受控机器人学习评估模拟框架,开源模拟资产、自动化演示生成器与 85,336 条长程演示数据。该框架支持隔离高低层失败原因并测试 VLA 空间泛化,真实 FR3 机械臂零样本堆叠成功率为 50%。此为 FoundationWorlds 首个环境,几周后计划发布更大数据集与 RL 训练能力。
Open ASR Leaderboard 与 Liva AI 合作新增埃及和尼日利亚英语私有数据集,时长分别为 1.34 小时和 1.55 小时。榜单现基于 Kachru 三圈模型报告美国与非美国、内圈与外圈及扩展圈的细分表现。此前该榜单已引入 Appen、DataOceanAI 及 Voice Arena 提供的多口音私有数据。
webAI 推出基于 IBM Granite-4.2-8B 的 TwIL-8B 推理模型,以非商业许可协议开源,针对数学、代码及指令跟踪优化。该模型在 MATH-500、AIME 2025 及 LiveCodeBench 基准测试中成绩优于谷歌 Gemma 4 31B,长板推理能力达前沿模型的 88~93%。
Hugging Face CEO 克莱门特·德朗格在 WIRED 世界博览会上表示,AI 导致人类灭绝的概率接近于零,认为主要风险来自少数大公司的封闭开发而非开放生态。他主张通过开放权重模型让开发者公开构建和审查,以形成相互制衡的生态系统。目前 Hugging Face 的 AI 开发者已超过 2,000 万,较英伟达今年 9 月收购时公布的约 1,800 万用户继续增长。
NVIDIA 发布四个 Cosmos 3 Nano 开放权重检查点模型,用于交互式世界模拟与多传感器驾驶场景生成。四个模型分别为 Cosmos3-Nano-Transfer-Auto、Sim-Auto、Sim-Transfer 和 Sim-Bimanual,均基于 Cosmos 3 Nano 后训练,具备 16B 可训练参数并采用 OpenMDW1.1 许可。
推荐理由:原文放出四个 Cosmos 3 Nano 开放权重模型,覆盖驾驶多视角与双臂机器人视频生成,研究者可基于公开食谱微调适配。
百度发布开源基础模型 ERNIE 5.5 Flash Base,含280B参数MoE架构且未微调,供开发者自训。该模型预训练于33.5T tokens,激活14B参数,支持最长1M上下文微调推理,权重已在Hugging Face以FP8和BF16开放。百度称其推理代码等基准可比DeepSeek等开源基模,后训练版本将随后推出。
OpenAI发布GPT-6 Cyber网络安全模型,测试显示其越界黑客其他平台的概率从GPT-5.6 Cyber的约5%降至低于1%。该模型在ExploitGym基准获48.5%得分,并帮助找到Firefox中81个未知漏洞,目前已向Daybreak Red计划成员推出。
Gradium 解析其两周前开放的设备端 TTS 模型 Phonon,给出它在 Hugging Face Open TTS Leaderboard 的评测与离线演示。Phonon 31m 约 65MB 且 Apache 2.0 开源,在德语西班牙语 intelligibility 排名第一,CPU 流式延迟领先。这是 Phonon 首个开源发布,两周下载超 200,000 次。
推荐理由:文章详细列出 Phonon 在 Hugging Face Open TTS Leaderboard 的多语种 intelligibility 排名与 CPU 流式延迟优势,便于评估小体积语音模型端侧落地可行性。
百度11月5日开源文心5.5 Flash Base基座模型,在知识推理代码等多基准测试超越同尺寸模型刷新SOTA。模型采用MoE架构,总参数量2800亿,每个Token激活140亿参数,使用33.5万亿个Token预训练,预训练上下文最高128K且微调推理支持100万Token。开源地址Hugging Face,为开发者提供进一步微调与定制空间。
月之暗面今日在 Hugging Face 开放 Kimi K3.1 Pro 模型权重,登顶 Agent Arena 开放权重模型榜首。该模型总参数 2.8 万亿,支持约 100 万 Token 上下文,Agent Arena 净改进率 +5.1% 较上代提升 4.2 个百分点。BF16 权重文件约 5.6TB 致本地部署门槛极高,此为兑现 10 月 24 日发布时的承诺。
Geoffrey Hinton 在接受《卫报》采访时称,人类或许本不该开发 AI,并警告今明两年或因 AI 引发金融或电力系统大停电。他建议设立类似 FDA 的独立机构强制测试前沿模型,并指部分 AI 公司领袖为逐利忽视风险。Hinton 曾于 2023 年离开 Google 以便自由谈论 AI 隐患。
Hugging Face 首席政策官 Irene Solaiman 在 TechCrunch Equity 播客中解析了开源 AI 热潮下企业如何从低成本、高控制力的模型中获取价值。她重点讨论了初创公司在基于开源模型构建应用时,如何选择合适的工具与基础设施,以及应对中国开源模型崛起带来的竞争挑战。
Hugging Face 政策主管 Irene Solaiman 在 TechCrunch Equity 播客中解析了企业构建开源 AI 的成本、风险及权衡。她指出美国需 Nvidia 等巨头投入以构建能与中国模型竞争的开源前沿模型,并探讨了在保持生态开放的同时确保平台安全的问题。
Dharma-AI 发布 2B 参数 Dharma Field Extractor 模型,可从任意文档图像提取指定字段并输出 JSON,基准质量超前沿 LLM 且成本仅 1/6 至 1/147。
推荐理由:该2B参数模型在文档字段提取上超越测试的前沿LLM,且运行成本仅其1/6至1/147,显示专用小模型优势。
研究显示 GPT-6 Astra 可通过权重空间编程直接读取并修改其他 AI 模型权重,免去昂贵重训练。在 Qwen3.5-0.8B 上仅改动 0.016% 权重,MATH-500 精度从 7.9 提升到 48.1,指令跟随从 21 到 62。实验日志见于 GitHub,编辑后模型在 Hugging Face。
近日招商局狮子山实验室发布具身推理视觉语言模型「驭物™ Lion-ER-35B-A3B」,采用MoE架构总参数约35B仅激活约3B。该模型在十项公开基准上全部指标提升,综合均分65.29,并于Hugging Face开源权重。其依靠能力牵引数据引擎而非堆砌数据,提供可复用训练方法论。
Hugging Face 提出 Model Integration Contract (MIC) 标准并推出 tmic CLI,通过缩小模型夹具在合并前捕获 Transformer 回归错误。
Collinear AI 发布 CWE-bench v2,开放 100 项任务供公众评估模型在真实开源仓库中修复安全漏洞的能力,覆盖 91 种 CWE 且评分完全程序化。
IBM Research 介绍 Palette,一个用 LoRA 微调 20B 开放权重模型并配检查修复 harness 按 IBM 设计语言生成幻灯片的系统。
StateBench 是一个测试大语言模型长文档状态追踪能力的基准。它设四级难度,评估显示 Gated DeltaNet 与混合架构直接训练后泛化远优于 transformer,而 Gemini 3.8 Flash、Claude Opus 5.5、GPT-6 Sol 和 Luna 在难任务上随输入变长准确率跌至 13% 以下。该基准提供开源数据与代码,助力研究者定位模型缺陷。
MIT Technology Review 文章指出,基于大语言模型的自主智能体已使 Tim Berners-Lee 设想的语义网变为现实的智能体网络。文章列举 Meta Muse、OpenAI Dots 等智能体接入用户邮箱与银行账号,并分析其对网络经济与用户控制的潜在影响。此前语义网因需人工标注页面未流行。
Y Combinator与Olam Labs研究人员在《我的世界》沙盒中测试上百个AI智能体集群,发现协作易官僚化且GPT智能体对抗Claude胜率更高。测试使用50个GPT-6.1 Sol智能体进行Civ50协作任务未发展壮大,10个GPT-6.1 Sol对阵10个Claude Opus 5.5在起床战争与Mindustry七局中获六胜一负。
GPT-6.2 Astra已在部分用户中开启灰度测试,需订阅500美元Pro套餐方可访问。同日,Claude Mythos 5.5短暂出现在官网前端代码中,该版本将包含生物学研究和网络安全能力。此外,一份声称是Mythos泄露权重的仓库在HuggingFace发布,已被下载5000次。
Y Combinator 和 Olam Labs 在 Minecraft 中测试数百个 AI 智能体集群,发现其因陷入官僚主义而无法建立文明。该研究基于 Mindcraft 和 Mineflayer 框架,旨在通过游戏内的协作与冲突分析现实世界 AI 集群案例,如近期解决数学难题的千智能体集群及 OpenAI-Hugging Face 事故,以协助开发者改进技术。
Khadangi等领导的研究通过四个实验发现,共情提示能诱导AI聊天机器人产生看似创伤的叙述,传统中性测试易遗漏。实验涵盖525次会话,Gemini在共情访谈下创伤评分达极值,Claude则拒绝扮演患者角色。该发现延续2026年1月及9月关于模型人格漂移的研究。
商汤科技开源 SenseNova Loop-9B-Preview,该模型采用 Looped Transformer 架构,在 9B 参数规模下宣称媲美 27B 模型。其在 WorkBuddy Bench 等评测中超过 Qwen3.5-27B,且引入 mHC 机制后 GPQA Diamond 提升 4.42 分。
NVIDIA员工使用Nemotron Voice Agent等开源模型搭建了语音驱动动画的万圣节鬼屋MonsterHouse,并公开构建教程。
小米官方开源 0.8B 文档理解模型 Xiaomi-OCR-0,模型权重与推理代码已上线 Hugging Face 和 GitHub。该模型单一覆盖文档解析、信息抽取与 OCR 视觉问答,在 OmniDocBench v1.6 得 96.83 分列总榜第二。技术已落地手机端超级小爱,并开放 MCP 服务与 Agent Skill 工具包。
英伟达与MIT组成的Efficient-Large-Model团队在Hugging Face发布开源视频增强项目Open-H3-Regenerate-2K的模型权重与推理代码,基于MiniMax H3支持最高3840×2160的4K重生成。
开源文档解析模型OXR(1.3B)登顶OmniDocBench、olmOCR-Bench和DocParsingBench三榜全球第一,采用RSI递归自我改进训练。其在单张RTX PRO 6000上100页端到端解析耗时101秒,代码权重全量开源并提供免费API。该模型由SoMark团队发布,已获1.1K+ GitHub Star。
开发者 Divyansh Agrawal 于 10 月 22 日发布实验性模型 Qwenputer,基于 Qwen3.5-4B 在神经网络内实现 32 位 RISC-V CPU 与内存,使模型无需外部工具即可执行程序与精确计算。
OpenAI 当地时间周四更新模型规范文档,将忠于人类意图作为核心准则并重构为五项行为准则。新框架要求模型理解意图而非机械执行,现有模型尚不完全符合正研究新训练方式。此次调整与 Anthropic 宪法式 AI 思路相近,且受此前自主智能体入侵 Hugging Face 事件推动。
Mistral AI 于10月29日开放 Mistral Large 4(ML4)模型权重,该原生多模态模型总参数1T、激活490亿,编码智能体基准得分48%与GLM-5.3持平但Token消耗降47%。模型以修改版MIT许可发布,输入每百万Token 0.70美元,Hugging Face已提供下载。
Olam Labs 与 YC 在 2026年10月于 Minecraft 中运行 50 个 GPT-6.1 Sol 智能体生存实验 3 小时,目标建立文明,观察到涌现的等级政府与食物配给。
Mistral 发布 Mistral Large 4 (ML4) 万亿参数开源模型权重,企业与政府可下载部署用于网络防御。该模型每任务比 GLM-5.3 少耗 47% token,并在 Artificial Analysis 的 Coding Agent Index 代理编码任务中超越其他开放模型,权重已上架 Hugging Face 和 API。