NVIDIA AI 工厂如何通过生产力、耐用性与通用性最大化投资回报
NVIDIA 指出 AI 工厂投资回报取决于产能、寿命与需求,其平台通过全栈协同设计实现每兆瓦最高吞吐量与最低 token 成本。SemiAnalysis 数据显示,NVIDIA Vera Rubin NVL72 系统吞吐量较 GB300 NVL72 提升超 30 倍,DeepSeek V4 Pro 模型每百万 token 成本降低达 45 倍。
NVIDIA 指出 AI 工厂投资回报取决于产能、寿命与需求,其平台通过全栈协同设计实现每兆瓦最高吞吐量与最低 token 成本。SemiAnalysis 数据显示,NVIDIA Vera Rubin NVL72 系统吞吐量较 GB300 NVL72 提升超 30 倍,DeepSeek V4 Pro 模型每百万 token 成本降低达 45 倍。
AWS 结合 Amazon EKS、EFA 与 DeepEP,为大规模 MoE 模型的 RLHF/GRPO 强化学习后训练提供架构方案,吞吐量提升 40%。该方案针对 rollout 生成与策略训练并行的异步 RL 循环,通过 DeepEP 优化 Expert Parallelism 的 all-to-all 通信,缓解跨节点带宽瓶颈。
NVIDIA 验证工程师 Sakeena Fiza 负责在量产前测试数据中心系统,确保硬件在 AI 工厂环境中稳定运行。她曾见证 NVIDIA Rubin GPU 首次实现系统级枚举,并通过排查固件、硬件及热力学问题,在客户发现故障前解决潜在风险。
NVIDIA 推出 DSX Ready 认证计划,用于评估符合 NVIDIA DSX AI 工厂参考设计要求的合作伙伴产品。该计划首批涵盖电池储能系统(BESS)和冷却分配单元(CDU),已认证供应商包括 Hitachi Energy、LG Energy Solution、Tesla、LG Electronics、LiquidStack 和 Vertiv。
NVIDIA 发布 Halos 全栈安全系统,用于物理 AI 在设计、验证与部署各环节的安全工程。面向自动驾驶,Halos 覆盖 DRIVE AGX Thor。
NVIDIA 在开罗大埃及博物馆举办活动,展示埃及 AI 生态从能力建设走向规模化落地,其 Deep Learning Institute 埃及学员规模一年增长超十倍。
NVIDIA 在纽约气候周上介绍了五家以 AI 为基础推进清洁能源的公司。ThinkLabs AI 用 NVIDIA CUDA 平台打造数字孪生与智能体,帮助南加州爱迪生将电网并网申请评估时间从 30-45 天缩短至两分钟。
Emerald AI、Google 和 NVIDIA 宣布成立 AI Energy Management Alliance(AEMA),推动数据中心根据电网状况动态管理用电。
Mistral 与 HUMAIN 宣布达成数亿欧元规模的战略合作,旨在沙特及中东地区推进 AI 基础设施、先进模型开发及解决方案部署。双方将重点开发网络安全、语音及阿拉伯语前沿模型,并探索利用 HUMAIN 数据中心支持本地算力需求。该合作聚焦受监管行业,确保数据、模型及算力在客户控制下运行,以支持主权 AI 需求。
Hugging Face 构建了约束感知的 GPU 分配器,在七个基准场景中与 FIFO 调度器对比,相同硬件和负载下 GPU 利用率最高提升 33 个百分点,优先级加权产出在每个场景均有提升,最高达 105%。
Hugging Face 发文指出,AI 的下一个真正约束不是智能而是 GPU 利用率,闲置 GPU 如同停飞的飞机,成本按日历小时累积而产出只按计算小时计。文章以 2020 年微软为 OpenAI 搭建的含超 10,000 块 GPU、285,000 个 CPU 核心的超级计算机为例,说明算力稀缺已从模型转向计算资源。