Hacker News · AI 热帖· sbulaev·· 6 小时前
AI 模型可证明地隐藏任意能力(arXiv:2610.13928)
AI Models Can Provably Hide Arbitrary Capabilities
SI 导读
arXiv 论文 2610.13928 构造加密后门将任意计算嵌入模型权重,揭示基于引出的能力审计在密码学假设下不可靠。研究用 PyTorch 实现,在化学反应预测任务上抵抗微调与梯度触发搜索等引出方法,并发布模型以支持防御改进。
SI 评分69
来源:Hacker News · AI 热帖 · arxiv.org