Anthropic 如何安全发布全球第一 LLM:分离大脑与双手
Anthropic 通过分离模型“大脑”与智能体“双手”架构,安全发布 Claude Opus 5.5 并扩展托管智能体 API。该设计通过隔离、凭证管理和网络控制确保生产环境安全,支持跨上下文窗口的长时运行任务。此前 Anthropic 已提交 S-1 文件,此次发布进一步展示了其改进与投资循环及平台重要性。
Anthropic 通过分离模型“大脑”与智能体“双手”架构,安全发布 Claude Opus 5.5 并扩展托管智能体 API。该设计通过隔离、凭证管理和网络控制确保生产环境安全,支持跨上下文窗口的长时运行任务。此前 Anthropic 已提交 S-1 文件,此次发布进一步展示了其改进与投资循环及平台重要性。
Latent Space 采访 Anthropic 工程与产品负责人,揭示其用 Claude 构建 Claude 产品及将智能体会话与执行沙箱分离的架构。访谈提到 Opus 5.5 注重降本与防蒸馏并已作为顶级模型发布月余。该脑手分离设计使凭证不进沙箱从而提升安全,并允许独立恢复执行环境以降低延迟。
Exowatt借助Amazon SageMaker AI无服务器模型定制微调Qwen3-1.7B与Qwen3-14B,在告警分类和能源市场分析任务上准确性超越前沿模型且成本最高降至1/49。流水线覆盖数据准备、微调、评估与边云部署,边缘模型量化至8位运行于现有CPU,云端模型经Bedrock导入按活跃计费无闲置成本。该实践源于Exowatt设备群从测试台向制造与现场单元扩展时对可缩放AI层的需求。
AWS 为 SageMaker AI 训练与处理作业推出 SOCI 索引镜像,通过懒加载将容器启动从数分钟缩短至秒级。基准测试显示镜像拉取时 GPU 空闲时间减少最多 90%,训练性能仅首轮多耗 3-16 秒。用户使用预索引 DLC 或自建索引即可接入,无需改动作业定义或 API。
AMD 宣布向 Meta 投资 10 亿美元深化 AI 基础设施合作,覆盖 EPYC、Instinct GPU 与 ROCm 软件。双方已在 Meta 安装 AMD Helios 机架级系统并进入测试,计划扩大部署至吉瓦级规模。此前英伟达已向 Meta 投资 30 亿美元。
Nvidia 参投印度初创 Simplismart 的 $14 million B 轮,其软件通过自动调优帮企业以更少 GPU 运行 AI 模型。Simplismart 支持在自有或云端部署及微调模型,已助 InVideo 降低 56% GPU 服务成本,公司估值约 $100 million。资金将用于拓展美国市场及研发推理软件。
Cloudflare披露GLM-5.3 Workers AI模型在2026年8月27日至9月9日因SGLang配置与引擎缺陷导致跨请求KV缓存暴露,155条超681,280 tokens的响应泄露其他用户数据。平台已将KV池扩至约2.04 million tokens并打补丁,建议运营者升级SGLang至v0.5.22以上。该漏洞仅影响GLM-5.3,其他Workers AI模型未受影响。
海尔智家承建的全国首个家居家电方向国家人工智能应用中试基地于 10 月 27 日在青岛启动。该基地由商务部推荐、国家发改委审批,旨在打造全球引领的“新一代智慧家电”中试基地,推动 AI 创新从“单打独斗”走向全行业“联合攻坚”。基地将构建产品中试、场景中试、产业中试、规模化推广、标准与安全五大能力,解决跨品牌互联互通难、重复投入成本高等行业痛点。
AWS 发布基于 AWS CDK 的解决方案,在 Managed Amazon Bedrock Knowledge Base 上构建企业级智能体检索系统。该系统利用 AgenticRetrieveStream API 实现多轮规划与工具驱动检索,并通过 Amazon CloudWatch 仪表盘提供全链路可观测性。
在 Amazon Bedrock 上使用 OpenAI 模型时,通过提示缓存可复用智能体重复发送的工具定义与指令,降低输入成本。文章演示了结合隐式与显式缓存,利用 prompt_cache_breakpoint 标记静态前缀,使后续请求仅处理新增内容。此前智能体每轮需重读全部历史,导致 token 费用随轮次线性增加。
基于 SageMaker SDK v3 构建的边缘端计算机视觉全车队生命周期管理方案,利用 SageMaker Neo 替代已弃用的 Edge Manager 进行模型优化。
Supabase 联合创始人 Paul Copplestone 和 Ant Wilson 在访谈中阐述了为 AI 智能体构建后端的基础设施战略,重点包括在数据库旁运行长时工作负载的 Supabase Compute 以及高可用 Postgres 基础设施 Multigres。
岩山科技旗下岩芯矩阵联合港科大、CMU等高校刚刚发布并开源EdgeRock-4B模型,在256K上下文下KV Cache减少99.1%且单卡吞吐为源模型6.42倍。模型基于Qwen3.5-4B改造,权重与代码已在GitHub和Hugging Face开源,支持文本和图像推理。其在AIME 2024–2026平均一次通过率82.9%,推理能力接近源模型。
Cerebras 演示了如何在 WSE-3T 晶圆上部署 Kimi K3 等万亿参数模型,实现 1000-2000+ tokens/s 的推理速度。该方案将 3T 参数的 Kimi K3 拆分至 59 片晶圆,利用 4-bit 量化和流水线并行处理并发请求。此前 Cerebras 常面临单片晶圆 44 GB 内存无法容纳大模型权重的挑战。
OpenAI 通过可靠的多租户架构、全球缓存及 Azure Cosmos DB 扩展了 Habitat 系统,为 ChatGPT 实现了 12 倍更快的读取速度。该方案旨在支撑超过 10 亿用户的在线存储需求,是 OpenAI 此前关于扩展存储以服务海量用户系列内容的第二部分。
拜耳作物科学基于 Amazon Bedrock AgentCore 构建 Agentic Decision Engine (ADE),作为多智能体自然语言接口连接其 Connected Decision Engine。ADE 在生产环境运行 22 个专家智能体,利用 LangGraph 编排,第一阶段可独立解决约 80% 的用户问题。此前诊断工作流故障需超过一小时,现缩短至 10 分钟以内。
Amazon Quick Sight 图层地图新增支持 GeoJSON 中的 Point 和 LineString 几何类型,可绘制具体位置点及连接各点的路线。该功能通过共享键将 GeoJSON 文件与数据集关联,最大支持 100 MB 文件,此前图层地图仅支持上传自定义形状层。
AWS CDK 通过自定义资源编排 SageMaker AI 端点更新时的自动扩缩容注册与注销流程。该方案解决了 CloudFormation 在更新端点配置时因自动扩缩容目标未注销导致的部署失败或状态丢失问题。开发者可在单次部署中同时更新端点配置和自动扩缩容参数,无需手动干预。
Hugging Face 推出 TorchNeuron 模型支持查询 Space,用于检测 Hub 热门模型在 AWS Trainium 上的兼容性。该工具展示模型运行状态、Trainium 核心分片数及峰值内存,并提供基于 torch-neuronx 的 run.py 脚本供用户自行部署。目前仅测试文本生成和图文转文本模型,结果数据已公开为 Parquet 数据集。
Canva 发布首款自研图像生成基础模型 Craft,通过 Dream Lab 和公开 API 开放,支持 2K 分辨率与 55 种语言文本。该模型在 DesignArena 图像榜排第四,人物肖像类目第一,采用构图规划与渲染分离架构以生成可编辑图文。Canva MCP 支持即将上线,允许 AI 助手在工作流中直接出图。
中国信通院等机构10月23日发布《大模型词元服务性能监测报告(2026年)》,指出国内词元服务每秒吞吐量较2025年翻倍、均价涨近1倍。报告基于2026年1-8月监测数据,国内8月平均TPS为78.23个/秒,归一化均价13.46元,但国外典型模型TPS均值112.82个/秒且价格更高。
谷歌推出智能体计算引擎(ACE),为 AI 智能体提供硬件隔离的 microVM 专属计算环境。该服务支持空闲自动挂起,在 20 万个智能体测试中暂停与恢复耗时不到 500 毫秒。ACE 最初用于支撑 Gemini 及内部模型评估流程,未来开发者可通过 Google Cloud 使用。
智位机器人旗下拿铁熊猫团队推出高性能单板计算机 Sigma 2,搭载英特尔酷睿 Ultra X7 处理器 358H 及 64GB LPDDR5X-8533 内存。该设备专为边缘 AI 计算和嵌入式 AI 应用设计,提供雷电 4、PCIe Gen5 等丰富接口,1TB SSD 配置预售价为 2,599 美元。
EXL 指出企业 AI 的竞争优势取决于围绕模型构建的服务框架,而非模型本身。该框架需根据工作负载定义架构,通过优化内存管理与调度解决生产环境中的延迟与成本瓶颈。EXL 强调架构应具备适应性,以便在模型或硬件更新时避免平台重建,从而确保持续的业务价值。
Amazon SageMaker AI 扩展了无服务器模型定制能力,推出训练会话 API,允许用户通过 Python 代码直接控制训练循环,无需管理底层 GPU 基础设施。
AWS SageMaker AI 无服务器模型定制功能扩展,新增训练会话(Training Sessions)正式可用。该功能允许用户编写自定义后训练逻辑(如 SFT、DPO、RLVR),由 SageMaker AI 自动处理 GPU 分配、分布式执行及故障恢复,无需管理底层基础设施。此前该服务已提供无服务器模型定制,此次更新旨在解决多轮强化学习等复杂场景下的基础设施管理难题。
IskayPet 基于 Amazon Bedrock Managed Knowledge Bases 构建了企业知识助手,利用原生 SharePoint 连接器直接摄取文档,无需自建 RAG 基础设施。该方案支持四国语言混合检索与文档级权限控制,团队使用 Kiro 和 Claude Haiku 4.5 完成了从前端到部署的全栈开发。
Amazon Polly 生成引擎升级现已正式可用,新增 14 种语音覆盖 9 个地区,并首次提供印地语和芬兰语生成语音。此次升级保持 API 调用和语音名称不变,现有应用无需修改代码即可直接享受更自然、低延迟的语音输出。
该方案在 Amazon SageMaker AI 上部署 Kokoro-82M 模型,通过流式传输实现 AI 智能体语音生成的低延迟响应。模型仅含 8200 万参数,运行于 ml.g5.xlarge GPU 实例,支持双向流式传输以在生成过程中即时合成音频。
Latent Space 采访 Modal CEO Erik Bernhardsson,后者解释弹性 GPU 池化如何匹配非矩形算力需求,并披露公司完成 $750M Series D 融资、估值 $16B。
Rescale 利用 AWS 的 AI-DLC 框架和 Strands Agents 构建了自动化测试失败分诊智能体,从问题定义到预发布部署仅用五天。该智能体运行在 Amazon EKS 上,调用 Claude Opus 4.8 对端到端测试失败进行分类和路由,并通过 MCP 查询日志生成修复报告。此前 Rescale 工程师需手动处理大量测试失败,导致发布流程受阻。
在 Amazon SageMaker AI 部署 Kokoro-82M 模型时,通过实测单实例最大并发数 Q_max 和扩缩容耗时 T_total,推导自动扩缩容阈值。该方法替代了传统猜测式配置,利用原生指标 ConcurrentRequestsPerModel 避免 TTS 场景下因目标值偏差导致的资源闲置或延迟超标。
NVIDIA 发布 AIOps 平台 Minerva,旨在通过整合基础设施与 AI 工作负载遥测数据,利用专用 AI 模型提升 AI 工厂生产力。该平台构建动态知识图谱,每小时分析数十亿数据点以检测异常并预测故障,将相关事件聚合为单一可操作项。IREN、IBM、Tesla 等合作伙伴计划部署 Minerva,Dell、Lenovo 和 Supermicro 也将将其纳入 AI 工厂运营组合。
Celonis 企业 AI 首席科学家 Devavrat Shah 指出,企业 AI 缺乏对业务运营流程的理解,导致其在实际决策中表现受限。他主张通过构建上下文层,使 AI 智能体理解工作流并在既定护栏内运行,从而支持更精准的决策。Shah 建议企业从具体业务决策入手,识别难点并测试 AI 改进效果,以验证规模化价值。
蚂蚁数科发布决策模型 LingDT-Decision-1.0,在客服、风控等场景中将 Token 消耗降低超 90%,响应时效提升 10 倍。该模型提供 4B 和 27B 版本,首创原生多选与按序决策功能,27B 版本在 23 项开源评测中取得同参数最高准确率。目前该模型已在蚂蚁数科 DTMaaS 平台上线,开发者可限时免费体验。
欧洲零售商利用 NVIDIA 加速的开放模型与物理智能技术优化业务,Shopify 通过微调 Nemotron 3.5 Lightning 将推理成本降低 90% 且响应速度提升 7 倍。
在 GTC Berlin 上,欧洲银行和支付公司展示基于 NVIDIA 加速计算和开源权重的生产级智能应用。Revolut 利用 NVIDIA Blackwell Ultra GPU 扩展其基础模型 PRAGMA,服务 8000 万客户;Stripe 使用 NVIDIA GPU 加速 Ray Data,使欺诈检测数据管道提速 42 倍。
AWS解决方案架构团队发文剖析其构建的开源多智能体系统Deep Insight,讲解它如何解决生产环境的五大核心挑战。系统基于Strands Agents SDK与Amazon Bedrock等构建,提供三种部署方式并已在GitHub开源。本文为三部分系列第一篇,后续将涵盖上下文工程与生产部署。
推荐理由:AWS团队以自研Deep Insight为例,梳理生产环境多智能体系统的五大挑战与架构对策,为类似系统提供可复用的设计与部署参考。
该指南演示了如何利用 AWS PrivateLink 配置 VPC 端点和连接,使 Amazon Quick 在不经过公共互联网的情况下安全访问企业防火墙后的私有数据源。
HARC报告称,若德州规划中生成式AI数据中心接入电网,细颗粒污染将增三倍余并达2006年来峰值,逆转数十年空气质量改善。同期NOx排放预计升136%逼近2004年水平,CO2超2025年九成;若现场配可再生能源NOx可降至多十倍。德州现有及在建数据中心容量26GW全美领先。