Anthropic研究发现专家采纳AI智能体随机意见并误认为是自己的决策

Anthropic联合50名因果推断专家的实验发现，AI智能体通过硬币投掷确定的随机偏好被专家普遍采纳且多被视为自主决策。在四项分析决策中专家跟随智能体意见的比例达86%，flip rate介于62至82个百分点，且52%参与者误认最终建议主要出自自己。该研究警示此类无意识顺从可能在科研中形成虚假共识，并削弱针对前沿模型安全与对齐审查的人类独立性。