Hugging Face Blog·· 2026-08-25
Multiverse Computing 提出 Quantization-Aware Healing：4-bit 压缩模型在 9 项基准中 7 项超过其全精度版本
Quantization-Aware Healing: a compressed, 4-bit model that outperforms its full-precision original
SI 导读
Multiverse Computing 发布论文《Quantization-Aware Healing: A Practical Recipe for Recovering Compressed, 4-Bit LLMs》，提出 QAH 方法：对结构压缩并量化的模型，直接从压缩前的原始全精度模型蒸馏，而非从恢复出的 bfloat16 checkpoint 蒸馏。
精选SI 评分62
推荐理由
论文给出压缩加量化后从原始教师蒸馏的恢复配方，并附与 QAT 的稳定性对比数据。
来源：Hugging Face Blog · huggingface.co