跳到正文

数据与训练

训练侧的门道:数据集构建、合成数据、预训练与后训练方法、算力与训练成本。

最新精选

第 1–20 条 · 共 30 条
10月1日周四
  1. The Decoder78

    OpenAI 称已阻断窃取模型推理的攻击,但同一手法在 Azure 上仍然有效

    OpenAI 称其阻断了一场针对模型推理内容的蒸馏窃取活动,该活动 7 月 1 日起低量出现,7 月 24 至 25 日激增至来自 4000 多名用户的 16000 次请求,涉及 15000 多个关联账号,7 月 28 日前已全部关停,OpenAI 将核心参与者与 Moonshot AI 相关人员关联。

    推荐理由:事件披露了推理蒸馏攻击的完整时间线与云平台防护差异,可据此理解模型推理泄露的攻防现状。

9月29日周二
  1. Microsoft Research62

    微软研究院推出面向生物学复杂性的 AI 研究系统 Quine

    微软研究院发布 Quine,一个面向生物学复杂性的 AI 研究系统,由跨序列、结构、功能、细胞状态和成像等多模态数据联合训练的生物学世界模型,以及连接模型、科学工具、文献和实验人员的交互式 harness 组成。

    推荐理由:微软研究院公开 Quine 的生物学世界模型与实验闭环设计,并给出胰腺癌化合物筛选的湿实验验证结果。

9月22日周二
  1. Latent Space82

    小米发布 MiMo-V2.6-Pro 与 Flash 开源全模态模型,训练成本约 300 万美元

    小米发布 MiMo-V2.6 系列两款原生全模态开源模型,MiMo-V2.6-Pro 为 1.02T 总参数、42B 激活参数,Artificial Analysis 智能指数 46,位列开源权重模型首位,定价 $0.435/M 输入、$0.87/M 输出 token,采用 MIT 许可。

    推荐理由:小米首次进入前沿开源模型序列,其RL环境与训练配方开源,可观察后训练成本压缩到何种程度。

9月16日周三
  1. NVIDIA Blog62

    NVIDIA 详解 DSX 平台:同功率预算下 token 吞吐提升 24%

    NVIDIA 在 AI Infra Summit 上介绍 DSX 平台,其中 DSX MaxLPS 在 Lambda 的 HGX B200 集群上完成首次验证:19 个节点以 85% 功率运行,达到与 16 节点满功率相同的功率预算,集群 token 吞吐提升 24%(约 400 万 token/秒升至 500 万),每瓦性能提升 23%。

    推荐理由:原文给出 DSX MaxLPS 在 Lambda 集群的实测数字与 DSX Flex 的电网响应案例,可据此判断同功率预算下的吞吐提升空间。

8月28日周五
  1. Google Research62

    Google 发布行星预测引擎 PPE,自动完成地理空间建模全流程

    Google 在 Earth AI 计划下推出实验性研究能力行星预测引擎(PPE),可依据自然语言查询自主完成地理空间数据检索、特征工程、模型训练评估并生成报告,把原本需要数周人工数据工程的建模流程压缩到数分钟。

    推荐理由:Google 官方给出 PPE 在公共卫生、粮食安全与疫情预测上的量化对比,可看自动地理空间建模相对人工流程的差距。

8月25日周二
  1. Hugging Face Blog62

    Multiverse Computing 提出 Quantization-Aware Healing:4-bit 压缩模型在 9 项基准中 7 项超过其全精度版本

    Multiverse Computing 发布论文《Quantization-Aware Healing: A Practical Recipe for Recovering Compressed, 4-Bit LLMs》,提出 QAH 方法:对结构压缩并量化的模型,直接从压缩前的原始全精度模型蒸馏,而非从恢复出的 bfloat16 checkpoint 蒸馏。

    推荐理由:论文给出压缩加量化后从原始教师蒸馏的恢复配方,并附与 QAT 的稳定性对比数据。

8月19日周三
  1. Hugging Face Blog62

    IBM 研究:智能体到底需要多少记忆?

    IBM 研究团队在 Hugging Face 博客发布 ALTK-Evolve 的后续研究,用 AppWorld 的 585 个多步任务测试八款模型,发现智能体记忆不是开关而是需要按模型校准的剂量。

    推荐理由:八模型对比显示智能体记忆的注入剂量需按模型能力校准,并给出检索与缓存的成本权衡。

8月6日周四
  1. Google DeepMind82

    Google DeepMind 开源 WeatherNext 气旋预报模型

    Google DeepMind 发布 WeatherNext AI 模型,在预测气旋路径、强度和风场结构上达到 SOTA,平均为预报员多争取约一天的预警时间,三天预报精度相当于此前模型的两天水平。

    推荐理由:原文给出气旋路径与强度预报多出约一天预警时间,并开源模型权重与代码,读者可据此判断气象预报工作流的可用变化。

7月31日周五
7月9日周四
  1. Google Research62

    Google Research 发布 SensorFM 可穿戴健康基础模型

    Google Research 提出 SensorFM,一个直接从无标注可穿戴数据学习的大型传感器基础模型,预训练语料来自 500 万同意参与者、超过 1 万亿分钟的多模态传感器信号,覆盖 100 多个国家和 20 多款 Fitbit 与 Pixel Watch 设备。

    推荐理由:原文给出可穿戴健康基础模型的预训练规模与下游评测结果,读者可据此判断通用生理表征的可行性。

7月7日周二
  1. Hugging Face Blog75

    LeRobot v0.6.0 发布:想象、评估、改进

    Hugging Face 发布 LeRobot v0.6.0,围绕机器人学习闭环引入世界模型策略(VLA-JEPA、FastWAM、LingBot-VA)、新一批 VLA(GR00T N1.7、MolmoAct2、EO-1、EVO1、Multitask DiT)以及统一的奖励模型 API(Robometer、TOPReward)。

    推荐理由:原文把世界模型策略、奖励模型 API 与六个仿真基准整合进同一套 CLI,读者可据此判断机器人学习闭环的工程化程度。

6月30日周二
  1. Google Research78

    Google 发布 TabFM:面向表格数据的零样本基础模型

    Google 发布 TabFM,一个面向表格数据分类与回归的零样本基础模型,将表格预测建模为上下文学习问题,无需手动训练、超参数调优和特征工程,单次前向传播即可对未见过的表格生成预测。

    推荐理由:原文给出 TabFM 的架构设计与 TabArena 基准表现,读者可据此判断零样本表格预测能否替代传统树模型流程。

6月8日周一
  1. Google DeepMind62

    Google DeepMind 公布塞拉利昂 AI 学习试验结果

    Google DeepMind 公布在塞拉利昂开展的预注册随机对照试验结果,使用 Guided Learning 的学生数学成绩比对照组提升 0.258 个标准差,约相当于八周内取得 1.2 至 1.7 年的常规学习进度。

    推荐理由:塞拉利昂预注册随机对照试验给出了 Guided Learning 的量化增益与交互数据,可了解 AI 辅助教学的实际效果与局限。

6月4日周四
  1. Google Research62

    Google 开源其水文建模框架,用于 AI 洪水预报

    Google Research 在 GitHub 上以 Apache 2.0 许可开源其水文建模框架,让各国气象与水文机构能用与 Google Flood Hub 相同的架构和相近训练数据训练 AI 洪水预报模型。

    推荐理由:Google 把驱动 Flood Hub 的水文模型架构与训练流程开源,读者可了解其与旧版相比的预测时效变化及接入方式。

5月27日周三
  1. Mistral AI60

    Mistral 推出物理 AI,将 Emmi AI 并入企业平台

    Mistral 宣布将 Emmi AI 并入公司,推出面向工业工程的物理 AI 能力,作为其企业解决方案中的新基础能力。该能力从几何与边界条件直接预测物理场,单次前向推理在单 GPU 上以秒级完成,用于设计迭代,传统求解器保留用于验证和边界情况。

    推荐理由:Mistral 把物理仿真模型并入企业平台,读者可了解其与传统求解器的分工及工业落地场景。

5月23日周六
  1. Mistral AI62

    Mistral 收购 Physics AI 公司 Emmi AI

    Mistral AI 本周签署最终协议收购 Physics AI 先驱 Emmi AI,以强化其作为工业企业 AI 转型伙伴的定位。Emmi AI 成立于奥地利,专注物理 AI 与大型工程模型,可把多日计算替换为实时仿真并构建数字孪生,其 30 多名研究人员和工程师将于 5 月加入 Mistral 的 Science 与 Applied AI 团队。

    推荐理由:Mistral 通过收购补齐物理仿真能力,读者可了解其工业 AI 布局与工程智能体方向。

5月20日周三
  1. Google Research75

    Google 发布 ERA 科研工具并开放 Computational Discovery 试用

    Google 发布 Empirical Research Assistance(ERA),这是一个用 Gemini 编写和优化科学代码的研究工具,相关论文今日发表于 Nature,并开始通过 Gemini for Science 向全球科学家开放。

    推荐理由:Google 把 ERA 从 Nature 论文推进到可申请使用的工具,并给出八个跨学科应用案例,读者可据此判断科研编码自动化的落地程度。

5月16日周六
  1. Google DeepMind60

    斯坦福用 Co-Scientist 筛选抗肝纤维化药物

    斯坦福大学医学院遗传学家 Gary Peltz 团队在《Advanced Science》发表研究,测试 Google DeepMind 的 Co-Scientist 能否从现有药物文献中找出可重定位治疗肝纤维化的候选药。

    推荐理由:斯坦福团队用 Co-Scientist 筛选肝纤维化药物,AI 提名的候选在活细胞实验中优于研究者自选。

© 2026 SI·Hot · Super Intelligence Hot · 超级智能热点 · 网站数据均来源于网络公开资料,版权归来源方所有