SPEX 和 ProxySPEX 算法实现 LLM 大规模交互识别

Berkeley AI Research 提出 SPEX 和 ProxySPEX 算法，利用稀疏性和低阶性在大规模下识别 LLM 的关键交互。ProxySPEX 利用层级结构特性，在保持性能的同时将所需的消融次数减少约 10 倍。SPEX 在特征归因任务中，当上下文扩展至数千个特征时，仍能保持与 Faith-Shap 等现有方法相当的高忠实度。