Hugging Face 推出约束感知 GPU 分配器:同集群利用率最高提升 33 个百分点
Hugging Face 构建了约束感知的 GPU 分配器,在七个基准场景中与 FIFO 调度器对比,相同硬件和负载下 GPU 利用率最高提升 33 个百分点,优先级加权产出在每个场景均有提升,最高达 105%。
Hugging Face 构建了约束感知的 GPU 分配器,在七个基准场景中与 FIFO 调度器对比,相同硬件和负载下 GPU 利用率最高提升 33 个百分点,优先级加权产出在每个场景均有提升,最高达 105%。
Hugging Face 博客介绍 Strands Robots 的流式数据闭环,用同一个 Robot() 对象完成录制演示、同步到 Storage Bucket、从 Hub 流式读取训练并把 checkpoint 部署回硬件,全程保持 LeRobot 磁盘格式不变。
推荐理由:原文给出从录制、同步到流式训练再部署的完整闭环代码,可迁移到机器人数据采集与训练流程。
在 AppWorld Test Challenge 的 417 个任务上,同一 CodeAct 智能体下 Claude Sonnet 4.6 总成本 79 美元(0.19 美元/任务),GPT-4.1 却要 155 美元(0.37 美元/任务),原因是缓存命中率让实际成本偏离标价。
Hugging Face 博客发布《Profiling in PyTorch》系列第三部分,用 PyTorch 剖析 attention 的朴素实现、原地操作、SDPA 与手写 kernel 四种写法在 profiler 下的差异。
PRX 系列第四篇披露其数据策略:预训练数据由公开与内部数据集混合而成,用 VLM 重新生成图像长描述,再转为可流式训练的语料。团队将文本编码器从 T5Gemma 换成 Qwen3-VL,改为训练时实时计算文本 latent,在 7B 规模下仅损失约 3–4% 吞吐(30 天训练多约 1 天)。图像统一编码为 quality 92 的 JPEG,实测首次重编码几乎不可察觉。
Mistral 基于其开源编码助手 Vibe 构建了一个自主智能体,可读取 Rails 源文件、生成或改进 RSpec 测试,并在 CI/CD 流程中无需人工干预运行。
推荐理由:Mistral 公开了用 Vibe 构建自动写 RSpec 测试智能体的完整方法,包括 AGENTS.md、skills 与自定义工具的具体配置。
Mistral AI 团队在 vLLM 上排查一起内存泄漏:在 Mistral Medium 3.1、开启 graph compilation 的 Prefill/Decode 分离部署下,系统内存以每分钟 400 MB 线性增长,数小时后触发 out of memory。Memray、Guppy 3 均未发现异常,Heaptrack 显示堆内存稳定但峰值 RSS 存在差异,说明泄漏发生在堆之外。
Mistral 对 Pixtral-12B 进行 LoRA 微调后,在 Aerial Image Dataset(AID)卫星图像分类任务上较基座模型显著提升,改善了密集住宅与中等住宅等易混淆类别的区分能力,并减少了模型幻觉出的无效类别名。
Mistral 提出用 LLM as a Judge 评估 RAG 系统,让"裁判 LLM"按数值、二元或定性量表为"生成 LLM"的答案打分,并汇总为加权总分。