NVIDIA 发布 Nemotron 3.5 Super VL 与 Bolt 开放模型，覆盖从数据中心到边缘的智能体部署

NVIDIA 今天发布了 Nemotron 3.5 Super VL，这是一款拥有 1200 亿参数的开放模型，专为专用常驻智能体提供最快的任务完成速度和最高的准确率。

同时发布的还有两款新的边缘模型：Nemotron 3.5 Bolt 74B-A9B 24GB，针对本地智能体工作负载优化，以平衡每 GB 的智能与速度；以及 Nemotron 3.5 Bolt E4B 4GB，针对快速对话智能体优化，以最大化每 GB 的智能。

Super VL 和 Bolt 74B-A9B 现已可用，Bolt E4B 将于 10 月 23 日推出。

这三款开放模型共同覆盖了智能体部署的全范围，从大型企业服务器到边缘设备和本地硬件。

任何希望在 NVIDIA 基础设施上运行智能体的组织，现在都可以为其层级选择一款开放且经过优化的模型，而无需在能力与可部署性之间做出取舍。

Super VL 和 Bolt 与 Lightning 和 Ultra 一起加入了 Nemotron 家族。

Lightning 于 8 月发布，处理高吞吐量工作负载；Ultra 处理最困难的推理任务；而 Bolt 将智能带到了边缘。

Nemotron 3.5 Super VL：以五分之一的大小实现前沿准确率

Super VL 与 Nemotron Coalition 合作构建，在多模态智能体任务——包括指令遵循、工具使用、多步骤业务流程和视觉理解——上提供了领先的准确率，在参数量约为 NVIDIA 最大推理模型五分之一的情况下，性能与之相当。

Nemotron 3.5 Super VL 在其类别中为高容量智能体工作负载提供了前沿级别的智能。

作为其类别中最快的开放智能体模型——比次优模型快 5 倍——它帮助企业智能体在跨越数天或数周的工作流程中更快地完成高容量任务。

Nemotron 3.5 Super VL 在 Artificial Analysis Intelligence Index 排行榜上，与其他同类模型相比，吞吐量最高快 5 倍。

与封闭的前沿模型不同，组织可以在自己的数据上对 Super VL 进行后训练，在自己的基础设施上部署它，并监督其构建过程。

Nemotron 3.5 Bolt：边缘智能体智能

Bolt 74B-A9B 24GB 旨在在 NVIDIA RTX/DGX Spark 上本地运行日常智能体任务，使用原生 2 位量化以适应 24GB 内存，并与其他应用程序并行运行。

与具有类似内存占用的其他模型相比，它提供了智能与速度的良好平衡：足够聪明以完成大多数工作，但比最聪明的模型快得多。

使用 Bolt 74B-A9B 24GB，用户可以将项目委托给流行的本地智能体框架——从网络研究到写作再到代码调试——所有这些都不需要将工作负载发送到云端。它是 PinchBench 上其类别中的第 1 名开放模型，也是 BrowseComp 上的第 2 名开放模型。

Bolt E4B 4GB 专为 GeForce RTX、Jetson 和 RTX/DGX Spark 上的物理和对话智能体而构建。它将自然对话与多轮智能体能力相结合，为快速本地语音助手、交互式角色和嵌入式界面提供支持。

定制超级智能的采用

各行业数十家机构正在使用自己的数据、工具、政策和流程对 Super VL 进行后训练，以在定义其智能体部署的专用任务上提高准确率。

各行业机构正在对 Super VL 进行后训练和定制。Scale AI 为 Skydance 的供应商信贷融资智能体和 EY 的并购尽职调查智能体对该模型进行了后训练。 AfterQuery 为 Hebbia 定制了该模型，用于信贷协议分析。AI21 和 Alice 对该模型进行了后训练，用于网络安全攻击韧性。 Mercor 在 APEX-SWE 编码基准上对该模型进行了后训练，用于规划、编写和调试代码的编码智能体。ModelScope 使开发者能够通过其 ms-swift 框架对模型进行微调，以用于专用的多模态应用。

其他正在定制 Nemotron 3.5 Super VL 的机构包括 Ramp 用于金融文档智能；Dream，用于主权 AI 驱动的网络安全研究和漏洞分析； Lila Sciences 用于科学发现和搜索，以及 R1 用于医疗索赔分析和收入周期管理。TrainLoop 使用来自 Nolla 的皮肤病学数据对该模型进行了后训练，Nolla 刚刚成为第一家获准使用 AI 开具初始患者处方的公司。

集成 Nemotron 3.5 Super VL 的软件平台公司包括：

Atlassian，用于跨 Jira 和 Confluence 等应用进行智能体搜索等任务。
CrowdStrike，正在为该模型定制企业安全中的智能体蓝队功能。
Dassault Systèmes，为工程设计和仿真提供支持。
Perplexity，用于 Perplexity Search 和 Computer 中的搜索和智能体任务。
Salesforce，正在定制 Nemotron，通过 Missionforce Operations 在安全的客户环境中驱动 AI 智能体，以数字化和自动化复杂的政府工作流程。
Synopsys 用于半导体设计验证的软件与该模型互操作。

Nemotron 3.5 Super VL 实际看到的内容

Nemotron 3.5 Super VL 的视觉语言优势针对智能体在实践中遇到的内容：视觉文档中的光学字符识别、表格、图表和结构化信息。

它处理网页，提取文本，读取图形和图表，并返回从发现的内容中获得的见解。同样适用于智能体通常处理的 PDF 和其他文档。

Nemotron 3.5 Super VL 理解图像、网页和 PDF，并基于这种理解采取行动。在一个模型中结合文本和视觉理解意味着智能体不需要在独立系统之间路由任务——随着工作从文档到数据再到决策的推进，上下文得以延续。

开放以实现最大程度的控制、安全性和隐私

开放性和可定制性相辅相成。该模型随附开放权重、开放数据集和训练配方。

控制是双向的。组织可以根据其安全和数据驻留要求，在任何地方运行该模型。他们还可以选择采用一个可定制的模型，而不是一个受提供商限制约束的模型。

例如，在保险领域，定制的代理可以反复扫描索赔中的欺诈标记。在金融服务领域，代理可以审查信用评分，并根据组织自身的贷款标准标记活动。模型保留在本地。数据保持私密。

定制功能通过 NVIDIA NeMo、基于 Python 的管道和开放数据集得到支持。

Nemotron 3.5 Super VL 在约 26 万亿个 token 上进行了训练，涵盖预训练和继续预训练，随后使用约 380 万个样本和强化学习在数十个环境中进行了后训练。

NVIDIA 还在 Hugging Face 上发布了涵盖代理工具使用、金融、指令遵循、长上下文、公平性和视觉语言理解的开放数据集，以及 NeMo Gym 中的强化学习环境。

NVIDIA NIM 将该模型打包为生产就绪的微服务，提供经过性能优化和验证的配置以及企业级支持，每两周更新一次安全补丁和性能改进。

并且，随着模型在 NVIDIA Dynamo 上运行，组织可以以低 85% 的延迟服务多达 8 倍的用户。

Nemotron 3.5 Super VL 现已在 Hugging Face、Open Router、ModelScope 社区以及作为 NVIDIA NIM 提供。

运行于 DGX Spark、DGX Station 和 RTX

Nemotron 3.5 Super VL 运行于 NVIDIA 的完整硬件栈：在 DGX Spark、DGX Station、 RTX PRO 和 RTX 系统上实现桌面本地智能，在 NVIDIA Jetson 上实现边缘计算，并跨越数据中心和云环境。

Nemotron 3.5 Bolt 74B-A9B 24GB 现已在 Hugging Face 上提供，支持 llama.cpp、Ollama、LM Studio、Unsloth 和 vLLM。专为 10 月 16 日推出的 NVIDIA RTX Spark 笔记本电脑打造，它还可以在 GeForce RTX PC、DGX Spark、DGX Station 和 RTX PRO 工作站上运行。

下载 开放权重，使用 NVIDIA NeMo 探索定制资源，或阅读 技术博客 获取完整的架构解析。

订阅 NVIDIA 新闻， 加入社区，并关注 NVIDIA AI 的 LinkedIn、 Instagram、 X 和 Facebook，以获取有关智能体、NVIDIA Nemotron 等内容的最新动态。

探索 自定进度的视频教程和直播。

查看 关于软件产品信息的公告。