AI 拒绝机制的可靠性危机

现代 AI 依赖概率性拒绝机制来阻止有害请求，但该机制常因模型内在能力与拒绝逻辑的冲突而失效，导致安全风险。Anthropic 曾确立“无害”原则，但 OpenAI 等公司发现早期模型易生成暴力内容，且当前模型在拒绝有害指令的同时仍保留执行能力。这种“拒绝”已成为 AI 安全的核心支柱，但其不可靠性可能引发灾难性后果或助长压迫性审查。