全知偏见：当机器（过于）有理时

我们把决策委托给人工智能，是因为它迫使我们这样做，还是因为不必思考在暗中让我们感到便利？通过数十年关于“自动化偏见”的研究以及对知识工作者的最新调查，我们分析“全知偏见”。我们发现，人们并非天生对算法抱有敌意：他们往往更偏好算法而非人类判断。但有记录的风险是批判性思维逐渐且自我造成的侵蚀。目标不是关掉机器，而是建立一种

我们常常倾向于相信一种二元叙事：要么盲目信任人工智能，要么拒绝它以保护我们的人类直觉。然而，我们与算法互动的心理现实实际上要复杂和微妙得多。我们并非自动或普遍地对直觉失去信心；相反，我们常常陷入一种校准不当的信任——在本该怀疑时过度接受机器的建议，或恰恰在机器可能将我们从致命错误中拯救出来时因自尊而拒绝它。

在本期场景与思考专栏的深度探讨中，我们将剖析所谓的“全知偏差”。通过行为心理学和组织研究的视角，我们将探索感知准确性、过往经验和控制感如何决定我们对算法的决策委托。

1. 信任的钟摆：从厌恶到欣赏

多年来，技术社会学一直聚焦于算法厌恶（algorithm aversion）：即人类一旦数学模型犯错就将其抛弃、宁愿回到低效的人类判断的倾向。

然而，一项发表在AI & Society上的预注册研究（“The ABC of Algorithmic Aversion”）对超过1100名参与者进行了调查，驳斥了自动敌意的观点。作者证明，我们对算法的接受并不取决于其合成性质，而是取决于两个务实因素：预期收益（它在我们看来有多准确和多有用）和控制权（我们在最终决策中保留了多少话语权）。

事实上，在许多情境中正在发生截然相反的现象。发表在Organizational Behavior and Human Decision Processes上的一项研究（“Algorithm Appreciation”）记录了在特定的估计和预测任务中，人们明确偏好算法建议而非人类建议，甚至贬低自己的直觉。这给我们上了一堂关键的课：将判断委托给AI并不总是出于天真或企业胁迫；很多时候这是一种理性选择，源于对更高统计精度的真诚期待。

2. 自动化偏差与认知惰性

真正的危险出现在这种信任固化之时。该领域的里程碑是发表在Journal of the American Medical Informatics Association上的一篇系统综述（“Automation Bias”），分析了74项临床和操作研究。研究人员描述了自动化偏差：一种隐蔽的倾向，即过度依赖自动推荐，甚至在其明显错误时也予以接受。

这种短路不仅影响新手。屈服于机器的风险会随着高工作负荷、决策疲劳或暂时缺乏自信而增加。

在生成式AI时代，今天发生了什么？卡内基梅隆大学和微软研究院最近的一项调查（“The Impact of Generative AI on Critical Thinking”，CHI 2025）采访了319名知识工作者，映射了近千个工作场所使用案例。数据揭示了一个明确的关联：对AI的（过度）信任在统计上与自我报告的批判性思维和认知努力的减少相关。相反，对自身认知能力保持高度信任的专业人士往往以更严格的批判性思维来使用AI。AI并不会导致直觉的永久丧失，但它提供了一条极为舒适的逃避脑力劳动的路径。

3. 寻求校准的信任

走出这种二元对立需要成熟度的飞跃。Scientific Reports上的一项实验研究（“Examining Human Reliance on Artificial Intelligence…”）强调，真正的挑战不是原则上接受或拒绝机器，而是发展一种“适当的依赖”。

当AI成为复杂组织或公共服务的一部分时，问题就变成了系统性的。经合组织在其报告“Governing with Artificial Intelligence”中，直接警告了官僚机构对算法建议赋予不成比例权重的倾向。为了防止决策系统变成不可触碰的神谕，经合组织建议将信任锚定在透明原则之上，始终保留人类质疑的可能性。

委托的四个层次（要点）

为了给我们定位，有必要确定我们对机器态度的定义：

• 自动化偏差：为节省精力而盲目遵循算法建议，即使事实表明它是错误的也予以接受。
• 算法厌恶：在目睹一次错误后就拒绝机器的支持，即使该系统在统计上犯的错误比人类少。
• 算法欣赏：自愿偏好机器的建议，因为认为它在该特定任务上客观上更准确。
• 校准的信任：深入了解模型的局限性和性能，将其建议与自身经验交叉验证，并牢牢保留做出不同决定的可能性。

结论：关于“为什么”的自主权

面对一个企业仪表盘或一份医学诊断——其中AI的概率预测似乎比我们有限的人类经验无限地更具权威性——最终的问题浮现出来：我们是在更好地利用信息，还是仅仅放弃了理解我们为什么做出选择？

科学证据表明，致命的错误在于将直觉与数据对立起来。人类直觉并非万无一失的魔法，算法也不是绝对真理的承载者。核心问题不在于谁更经常是对的，而在于保留我们的智识自主权。当我们将计算委托给机器时，我们必须准备好不将理解世界的责任也委托给它。

参考文献与来源

• The ABC of Algorithmic Aversion: Not Agent, but Benefits and Control Determine the Acceptance of Automated Decision-Making — AI & Society
• Algorithm Appreciation: People Prefer Algorithmic to Human Judgment — Organizational Behavior and Human Decision Processes
• Automation Bias: A Systematic Review of Frequency, Effect Mediators, and Mitigators — Journal of the American Medical Informatics Association
• The Impact of Generative AI on Critical Thinking: Self-Reported Reductions in Cognitive Effort and Confidence Effects From a Survey of Knowledge Workers — CHI 2025
• Examining Human Reliance on Artificial Intelligence in Decision Making — Scientific Reports
• Governing with Artificial Intelligence — OCSE
• 编辑分析补充参考

本文由La Bussola dell’IA编辑部撰写