跳到正文
原文
Hacker News · AI 热帖· sbulaev·· 6 小时前

AI 模型可证明地隐藏任意能力(arXiv:2610.13928)

AI Models Can Provably Hide Arbitrary Capabilities

SI 导读

arXiv 论文 2610.13928 构造加密后门将任意计算嵌入模型权重,揭示基于引出的能力审计在密码学假设下不可靠。研究用 PyTorch 实现,在化学反应预测任务上抵抗微调与梯度触发搜索等引出方法,并发布模型以支持防御改进。

SI 评分69

来源:Hacker News · AI 热帖 · arxiv.org

© 2026 SI·Hot · Super Intelligence Hot · 超级智能热点 · 网站数据均来源于网络公开资料,版权归来源方所有