Apertus 1.5 发布：8B 与 70B 开源模型新增图像音频理解、思考模式与 262k 上下文

我们最新发布的 Apertus 1.5 扩展了 8B 和 70B 的 Apertus 1.0 模型，增加了图像/音频理解能力、可选的思考模式、四倍长的上下文窗口、改进的指令遵循能力以及更好的工具使用能力。更新后的 8B 和 70B 模型权重 已于 2026 年 7 月 24 日在 Apache 2.0 许可下发布到 Hugging Face。更多详情现已可在项目 技术报告 中查阅，并在此处进行了总结。

Apertus 1.5 是第一代模型的继续预训练：为 8B 模型增加了 4 万亿个文本和多模态训练数据 token，为 70B 模型增加了 2 万亿个 token，总计分别为 19T 和 17T。与每次 Apertus 发布一样，模型完全开放：开放 权重、开放 数据、开放 价值观，以及完整的训练 细节。

主要增强

• 原生多模态理解： Apertus 1.5 在文本之外接受图像和音频，将文档、图表和照片引入对话。模型还可以处理口语，尽管这仍处于实验阶段。
• 思考模式： 模型可以切换到思考模式，在回答之前对输入进行推理，从而提高在推理问题上的表现。
• 长上下文： 上下文窗口扩展至 262,144 个 token，比 Apertus 1.0 增加了 4 倍。
• 改进的指令遵循： 比 Apertus 1.0 更好的指令遵循能力带来更可预测和准确的响应。
• 改进的工具使用： 模型经过训练以更好地集成工具，允许更有效地使用外部工具和 API。
• 开放价值观： 更严格地遵循 Apertus 章程，为模型的价值观和原则带来透明度。

训练过程

完整的 Apertus 1.5 训练流程

通过分词器实现多模态

我们在 v1.5 模型中以早期融合的方式引入多模态，图像和音频作为离散 token 与文本 token 在同一序列中进入 Apertus，而不是使用单独的视觉编码器。图像使用 Emu3.5 分词器进行分词（512×512 的图像变为 1,024 个 token），音频使用 WavTokenizer（每秒 40 个 token）。我们仅扩展了词汇表，因此架构保持不变，训练以纯文本速度运行。模型理解图像和音频，但仅生成文本。

预训练

从 Apertus 1.0 开始，我们在四个阶段继续预训练：

1. 非配对： 文本加上独立的图像和音频，使模型学习新的模态。
2. 配对： 图像-标题和音频-转录对，使其与语言对齐。
3. 冷却： 使用更多数学和代码的高质量数据。
4. 长上下文： 窗口从 8k 逐步扩展到 262k 个 token。

总体而言，超过一半的训练 token 是纯文本，这保留了 Apertus 1.0 的语言能力。文本数据使用 FineWeb2-HQ+、FinePDFs 和 Nemotron-CC 等来源进行了更新。所有新数据（包括多模态）都符合之前的标准：公开可用、许可宽松，并追溯尊重 robots.txt 的退出选项。所有来源都列在 apertus-data-transparency 中。

后训练

后训练分为五个阶段：SFT → 长上下文 SFT → RL → DPO → 章程对齐（SDPO）。

1. SFT 使用 370 万条文本样本以及图像和语音数据。仅对模型在没有推理轨迹的情况下无法解决的提示添加推理轨迹。工具使用数据仅限于经过执行验证的轨迹。我们在 Hugging Face 上发布了所使用的 文本 SFT 混合数据。
2. 长上下文 SFT 在完整的 262k 窗口下运行，恢复了短上下文 SFT 所削弱的长上下文能力。
3. 带有可验证奖励的 RL（RLVR） 在约 35 万个数学、代码、指令遵循、多语言和视觉提示上进行，混合开启和关闭思考模式。
4. DPO 使用由裁判评分的偏好对，提升了聊天质量、工具使用和安全性能。我们发布了 偏好池 和 训练对。
5. SDPO 通过裁判反馈和自蒸馏，使模型与 Apertus 章程 保持一致。

评估结果

除了扩展模型能力外，我们还显著扩大了评估范围。除了用于 Apertus 1.0 的现有基于文本的评估外，我们增加了多模态评估（图像和音频）以及思考模式评估。

多模态评估通过 MLLM-eval-suite 管道进行，合并了两个主要的多模态评估框架 lmms-eval 和 VLMEvalKit。我们还添加了一系列基于文本的基准测试，并扩展了翻译和多语言能力、安全性和工具使用的基准测试。这些可以在我们的后训练 评估仓库 中找到，基于 lm-evaluation-harness 分支。

尽管仍落后于前沿开放权重模型，但新发布的版本在编码和指令遵循能力方面也有显著提升，Apertus 1.5 8B 在指令遵循和多语言任务上优于同等规模的开放权重模型。思考模式进一步提升了在 AIME 等具有挑战性的重推理基准测试上的表现。该模型的多模态性能更接近 Gemma 4 12B 和其他当前开放权重模型。Apertus 1.5 的多模态性能在开放权重模型的空间理解以及开源模型的文档/图表理解方面具有竞争力。

我们还感谢我们的合作者和外部评估者对 Apertus 能力的高效基准测试提供的帮助。特别是，Apertus 1.5 在瑞士法律任务上表现出强劲的性能，与领先的开放权重模型相当（博客，代码）。此外，在 Last Translation Benchmark 上，Apertus 1.5 8B 展示了与 GPT-OSS-20B 相当的机器翻译能力，并优于 Claude Haiku 4.5 或 Google Translate 等模型（排行榜，论文）。

评估卡片：Apertus ❤️ EvalEval

Apertus 与 EvalEval Coalition 合作，以确保基准测试完全透明且可复现。我们在 Every Eval Ever (EEE) 架构中发布 Apertus 1.5 的结果，这是一种共享格式，不仅记录分数，还记录谁运行了评估、如何访问模型、生成设置以及每个指标应如何解读：这些细节通常缺失于排行榜，且往往解释了为何看似相似的分数存在差异。

结果展示在下方的 Eval Card 中，该卡片将运行数据与基准测试及模型元数据结合为一个可解读的记录，也可通过 Hugging Face Community Evals 获取。这与 英国 AI 安全研究所用于公开发布其评估的基础设施 相同。由于我们的文本评估运行在 lm-evaluation-harness 的公开分支上，而 EEE 通过专用转换器支持该分支，任何人都可以重新运行并在相同设置下将他们的数字与我们的进行比较。

结构化评估报告在研究之外同样重要。EvalEval 已将 Evaluation Cards 映射到 AI 治理要求，包括欧盟《人工智能法案》第 55 条和 GPAI 行为准则，并发现 EEE 架构可以表示这些框架要求的 60 个评估报告要素中的 56 个。这与我们发布 Apertus 的方式相符：除了模型之外，我们还发布了训练内容的Public Summary，并自愿发布Code of Practice 文档。机器可读的评估记录是自然的下一步：使监管机构、部署者和研究人员更容易找到、解读和比较模型背后的证据。

我们致力于通过 Eval Cards 和 EEE 架构推广可复现且透明的评估，并鼓励其他模型开发者以相同方式报告其结果，以便分数可以在不同模型和组织之间进行比较。

Apertus 1.5 可复现性

所有配方、消融实验和数据混合均在技术报告中记录。我们旨在通过公开并易于访问 v1.5 训练过程来普及开放模型开发。中间检查点托管在我们的Apertus 1.5 Hugging Face 集合中，包括基础权重、SFT、RLVR 和 DPO，以及我们在Apertus 1.5 数据集集合中精心策划的训练数据混合/自定义数据集。分享这些内容允许研究人员调查每个阶段如何改变模型行为。

报告涵盖了关于不同阶段后训练数据影响的众多消融实验，我们观察到在 SFT 期间与文本数据一起混合的多模态数据有助于改善所有模态的表现。我们还发现，多模态推理轨迹的好处在随后的仅文本强化学习中得以保留：从使用多模态轨迹训练的 SFT 检查点开始，RL 在数学方面的提升比从仅文本检查点开始时更多，且在推理任务上的优势贯穿整个训练过程。

模型可用性

Proton Lumo 和 Infomaniak Euria 是两个近期集成了 Apertus 1.5 的广泛使用的应用程序。这些部署与其他内容一起链接在社区展示中 - 请参阅此讨论串以获取预览。

多家提供商已宣布提供 Apertus 1.5 的 API 访问服务，包括 Swisscom、Infomaniak、Phoeniqs 以及我们通用可用性指南中列出的其他公司。报告还提供了我们如何与外部评估机构合作以测试和准备模型的详细信息。

运行模型的技术说明位于 Hugging Face 上 Apertus 发布版本的模型卡片中，以及我们的快速入门指南中。

如何参与

感谢您阅读这篇博客文章并成为我们社区的一员！我们刚刚在 Hugging Face 分析中庆祝了五百万次下载 🤗，并且不会放慢脚步。在近期于苏黎世举行的 AI+X Summit 上，我们的团队宣布了 Apertus 2.0 的路线图：稀疏/MoE 架构、约 600B 总参数、扩展的训练计划，并将智能体、数学和编码作为优先事项。

总之：我们邀请您阅读我们的报告，下载模型，探索中间检查点，微调权重，并复现我们的评估。对于我们的出版物或网站常见问题解答中尚未涵盖的问题，我们随时欢迎提出，我们也希望了解哪些主题对社区未来的深入探讨最为有用。

如果您使用 Apertus 进行构建或使用它，请填写展示表单，并通过我们联系页面上的选项与我们联系。我们期待展示更多成果，了解您正在构建的内容，并听取关于如何改进 Apertus 的意见！

引用

Project Apertus, et al. “Apertus 1.5: From Open Text Models to Open Multimodal Reasoners.” arXiv:2610.15542. Preprint, arXiv, October 11, 2026. https://doi.org/10.48550/arXiv.2610.15542.

@misc{apertus2026apertus15opentext,
      title={Apertus 1.5: From Open Text Models to Open Multimodal Reasoners}, 
      author={Project Apertus and Yixuan Xu and Yassine Turki and Vinko Sabolčec and Valentina Pyatkin and Tommy Chu and Sven Najem-Meyer and Sean F. Carroll and Robert Smith and Raphael Kreft and Oscar Alessandro Tazza and Oleg Lavrovsky and Nicola Irmiger and Matteo Santelmo and Marian Schneider and Juan García Giraldo and Hanna Yukhymenko and Eduard Ďurech and Davit Melikidze and Dani Tamayo and Bettina Messmer and Aryan Ahadinia and Anunay Yadav and Allen Huang and Ahmad Fraij and Alessandro Bombarda and Alex Padula and Alexander Hägele and Alexander Sternfeld and Anna Hedström and Anna Kosovskaia and Arthur Wuhrmann and Arundhati Balasubramaniam and Badr Al Mahouri and Barna Pasztor and Bartosz Szostakiewicz and Bich Ngoc Doan and Bryan Schmid and Burak Sezen and Camille Challier and Clément Charmillot and Dana Shayakhmetova and Daniel Perruchoud and David Brüggemann and David Isztl and Elia Palme and Emma Anastassova and Fabian Bösch and Faruk Zahiragić and Fawzi Roberto Mohamed and Fiona Panicali and Florian Kolly and Flynn Guerra and Francesco Monti and Frederike Lübeck and Gennaro Oliva and Haofeng Yang and Haoliang Shang and Helen El Khoury and Henrique Mendonça and Jannis Vamvas and Jérome Landolt and Jessica Lam and Jingchun Xiao and Jonathan Coles and Joshua Oyebanji and Khanh Nguyen and Konstantinos Pitas and Lasse B. Strand and Li Mi and Loïc Deslarzes and Lorenzo Baggi and Lorenzo Noci and Luca Baumann and Luca Sartori and Lukas Drescher and Marco De Negri and Marco Passerini and Mark Klein and Marko Stojanovic and Martin Majsec and Matin Ansaripour and Mattea Busato and Mauro Pellonara and Max Neuwinger and Michael Graber and Michal Tešnar and Michelle Wastl and Miguel Gila and Mikolaj Boronski and Morgane Magnin and Moritz Reihs and Mukhammadali Sayfiddinov and Nathan Ranchin and Nicolas Cuveillier and Oscar Wohlfahrt and Qianqian Zou and Rada Kamysheva and Rita Sevastjanova and Roman Machacek and Sebastian Keller and Simon Matrenok and Simon Pierre and Stefano Schuppli and Suei-Wen Chen and Szabina Horváth-Mikulas and Taliesin Perez and Thilo Spinner and Thomas Kleine Buening and Tim Robinson and Tymoteusz Kwiecinski and Vilém Zouhar and Vinzenz Thoma and Xiaozhe Yao and Yannick Metz and Yuhei Fukuhara and Yusif Askari and Zixuan Chen and Alexander Ilic and Ana Klimovic and Andreas Krause and Andrei Kucharavy and Elliott Ash and Joost VandeVondele and Martin Rajman and Mennatallah El-Assady and Thomas Schulthess and Timo Kehrer and Torsten Hoefler and Antoine Bosselut and Martin Jaggi and Imanol Schlag},
      year={2026},
      eprint={2610.15542},
      archivePrefix={arXiv},
      primaryClass={cs.CL},
      url={https://arxiv.org/abs/2610.15542}, 
}