Mistral 与 NVIDIA 合作加速开源前沿模型并发布 Mistral Small 4
Mistral AI 今日宣布作为创始成员加入 NVIDIA Nemotron Coalition,与 NVIDIA 合作开发开源前沿模型并发布 Mistral Small 4。联盟首个基础模型将在 NVIDIA DGX Cloud 上训练,支撑即将开源的 NVIDIA Nemotron 4 家族。双方此前曾合作开发 Mistral Nemo 模型。
Mistral AI 今日宣布作为创始成员加入 NVIDIA Nemotron Coalition,与 NVIDIA 合作开发开源前沿模型并发布 Mistral Small 4。联盟首个基础模型将在 NVIDIA DGX Cloud 上训练,支撑即将开源的 NVIDIA Nemotron 4 家族。双方此前曾合作开发 Mistral Nemo 模型。
Mistral 发布 Voxtral Transcribe 2,包含面向批量转写的 Voxtral Mini Transcribe V2 和面向实时场景的 Voxtral Realtime 两款语音转文本模型。
推荐理由:官方给出两款语音转写模型的延迟、错误率与价格对比,可据此判断实时语音应用的落地成本。
Mistral AI 团队在 vLLM 上排查一起内存泄漏:在 Mistral Medium 3.1、开启 graph compilation 的 Prefill/Decode 分离部署下,系统内存以每分钟 400 MB 线性增长,数小时后触发 out of memory。Memray、Guppy 3 均未发现异常,Heaptrack 显示堆内存稳定但峰值 RSS 存在差异,说明泄漏发生在堆之外。
Mistral AI 发布 Devstral 2 编码模型家族,含 123B 的 Devstral 2 和 24B 的 Devstral Small 2,两者均为开源模型,分别采用修改版 MIT 和 Apache 2.0 许可。
推荐理由:官方给出两款开源编码模型的参数、SWE-bench 成绩与许可差异,并附独立人工评测对比,便于判断开源编码模型与闭源模型的差距。
Mistral 发布 Mistral 3 系列,包括 14B、8B、3B 三个小尺寸稠密模型和迄今最强的 Mistral Large 3,后者为稀疏 MoE,41B 激活参数、675B 总参数,全部以 Apache 2.0 许可开源。
推荐理由:Mistral 3 全系以 Apache 2.0 开源并给出从 3B 到 675B 的规格与部署路径,读者可据此判断开源前沿模型的可用边界。
伯克利 AI 研究团队证明,在随机小初始化等温和近似条件下,word2vec 的学习问题可化简为无权重最小二乘矩阵分解,梯度流动态有闭式解,最终学到的表示等价于对目标矩阵 M* 做 PCA。该矩阵仅由词共现概率与 unigram 概率定义,其顶部特征向量对应名人传记、政府行政、地理描述等可解释主题。训练因此表现为按序离散的秩递增步骤,每步降低损失并扩展一个正交子空间。
Mistral 发布 Voxtral 语音理解模型,提供 24B 生产级和 3B 本地与端侧两个版本,均以 Apache 2.0 许可开源并上线 API。模型支持 32k token 上下文,可处理最长 30 分钟音频转写或 40 分钟音频理解,具备内置问答与摘要、多语言自动检测以及从语音直接触发函数调用等能力。
推荐理由:Mistral 开源语音理解模型,给出两种尺寸、32k 上下文与 API 定价,可据此判断开源语音方案的落地成本。
Mistral AI 与 All Hands AI 合作推出 Devstral Medium,并升级 Devstral Small 至 1.1。
推荐理由:Mistral 与 All Hands AI 联合发布两款代码智能体模型,给出 SWE-Bench Verified 分数与 API 定价,便于对比现有方案。
Mistral AI 推出 AI for Citizens 协作计划,帮助各国政府和公共机构战略性地运用 AI 改造公共服务、推动创新。该计划提供开源模型、自托管部署、数据主权保障及定制化研发,已与法国、卢森堡、新加坡、荷兰、英国、瑞士等国政府及公共部门合作。
Mistral AI 发布 Mistral Compute,提供私有化集成 AI 基础设施栈,涵盖 GPU、编排、API、产品与服务,形态从裸金属服务器到全托管 PaaS。
推荐理由:Mistral 从模型厂商延伸到自建 AI 基础设施,读者可据此判断欧洲算力自主路线的具体形态。
Mistral AI 发布首款推理模型 Magistral,分为 24B 参数的开源版 Magistral Small 和企业版 Magistral Medium。
推荐理由:Mistral 首款推理模型同时给出开源权重与企业版,并公开训练论文,可对照其多语言推理与速度主张。
Mistral AI 与 All Hands AI 合作发布面向软件工程任务的智能体模型 Devstral,在 SWE-Bench Verified 上取得 46.8%,比此前开源 SoTA 高出 6 个百分点以上,并以 Apache 2.0 许可开源。
推荐理由:官方给出 Devstral 在 SWE-Bench Verified 的分数与开源许可,读者可据此判断开源编码智能体的当前水位。
Mistral AI 发布 Mistral Small 3.1,在 Mistral Small 3 基础上提升文本性能与多模态理解,上下文窗口扩展至 128k tokens,推理速度达 150 tokens/s,以 Apache 2.0 许可开源。
推荐理由:官方给出 128k 上下文、150 tokens/s 与 Apache 2.0 开源等参数,可据此判断小模型在端侧与多模态场景的可用性。
Mistral AI 发布 24B 参数模型 Mistral Small 3,采用 Apache 2.0 许可,在 MMLU 上准确率超 81%、延迟 150 tokens/s。
推荐理由:24B 参数对标 Llama 3.3 70B 且同硬件下快 3 倍以上,可据此判断本地部署的性价比。