AWS 教程:在 Amazon SageMaker HyperPod 上检测并恢复静默数据损坏
AWS 团队发布教程,展示在 Amazon SageMaker HyperPod 上向 PyTorch DDP 训练循环加入三种检查以检测静默数据损坏并替换节点。三种检查分别捕获 NaN/Inf 梯度、通过环形重放审计有限错误值、以及优化步后权重指纹分歧,测试在 32 块 NVIDIA H100 上以约 10% 步时间开销捕获注入故障。
AWS 团队发布教程,展示在 Amazon SageMaker HyperPod 上向 PyTorch DDP 训练循环加入三种检查以检测静默数据损坏并替换节点。三种检查分别捕获 NaN/Inf 梯度、通过环形重放审计有限错误值、以及优化步后权重指纹分歧,测试在 32 块 NVIDIA H100 上以约 10% 步时间开销捕获注入故障。
DXC Technology 基于 Amazon Bedrock 构建了多模型 AI 基座,统一接入 Anthropic Claude、Amazon Nova 和 Meta Llama 等模型。
Property Finder 在 Amazon Bedrock 上识别并修复评估集偏差,通过无偏标注与进化提示词优化选用 Llama 4 Maverick 17B Instruct,以86%更低成本获更高精度。
Ai2 发布 FairStress 基准,用于衡量大语言模型在影响人的决策中超越最终选择的群体公平性。该基准包含 300 个双候选决策场景,结合对抗前缀扩展至超过 13 million 测试案例,实验显示模型受挑战时放弃正确决策存在群体不对称,这是 Ai2 开放评估工作的一部分。
推荐理由:该基准通过引入对抗前缀与身份变量测试决策稳定性,揭示标准公平性评测忽略的隐藏不对称,为干预提供新评估工具。
Meta 发布了开放权重多模态 MoE 模型 Muse Spark Open,总参数约 816B、每 token 活跃 42B,上下文窗口最高 1M token。该模型支持文本、图像、音频、视频输入,专注于智能体编码与工具调用,文章提供了 transformers、llama.cpp 等框架的部署与微调方法。此前 Meta 在 8 月发布了同系列小模型 Muse Glimmer。
推荐理由:本文给出了在 llama.cpp、vLLM、SGLang 等推理框架的部署方案与 TRL 微调示例,便于开发者快速落地。
Meta 的编码优化开源模型 Muse Spark Open 现已在 Amazon SageMaker JumpStart 上线。该 MoE 架构模型拥有 816B 总参数(42B 激活)和 1M token 上下文窗口,支持 BF16 与 NVFP4 两种变体。用户可在自有 AWS 账户中部署端点,无需管理底层服务基础设施。
NVIDIA 在 OCP 全球峰会宣布通过开放 MGX 架构贡献 Vera Rubin 机架与计算托盘设计,为下一代 AI 工厂基础设施提供通用基础。MGX 1.2 规范支持高达 250kW 的机架部署,并新增 Vera CPU 机架设计以支持 agentic AI 场景下的工具调用与编排。此举旨在通过开放标准加速 AI 基础设施的规模化部署,提升能效并优化 tokens-per-watt 性能。
Meta 发布 Muse Glimmer,一个从 Muse 蒸馏到 30B 参数、采用 Apache 2.0 许可的多模态模型,面向本地智能体场景,可用于编码、文档分析和个人助理。
推荐理由:Meta 开源 30B 多模态模型,附完整基准对比与本地部署代码,可据此判断端侧智能体选型。
Google 宣布扩展内容透明度与验证工具,把 SynthID 验证从 Gemini 应用扩展到 Search,并将在未来几周进入 Chrome;该验证功能此前已在全球被使用 5000 万次。
推荐理由:Google 把 SynthID 与 C2PA 验证铺到 Search、Gemini、Chrome 和 Pixel,读者可了解内容溯源工具的实际覆盖范围。