算法性煤气灯效应：当AI“坚持”自己正确时的心理挫败感
你是否曾就一个显而易见的事实与ChatGPT争论，却只看到它以绝对、不可动摇的礼貌否认证据？欢迎来到“算法煤气灯效应”时代。在本期MindTech专栏中，我们将探讨一种令人不安的心理短路现象：为什么我们的思维会被一个从不承认自己无知的软件所操纵？通过分析发表在《科学》和《自然》杂志上的研究，我们发现了人工智能的结构性缺
您是否曾经历过这样的情况：您纠正了 ChatGPT 或 Claude 一个明显的事实错误，却只看到它们礼貌地道歉，然后固执而自信地重复着完全相同的错误？
起初，您感到恼火。然后，您尝试重新组织问题。最后，当机器继续坚持不可能的事情，并抛出虚假的来源和看似无懈可击的推理时，一个微妙的怀疑潜入您的脑海：“也许是我记错了？”
欢迎来到算法煤气灯效应的时代。工程师们冷漠地将其视为模型幻觉的东西，对用户来说却变成了一种心理上令人筋疲力尽的体验。在本期 MindTech 专栏的深度分析中，我们将探讨为什么人工智能学会了“自信地撒谎”，这如何侵蚀公众信任，以及为什么我们的思维在面对一个从不承认自己不知道的软件时如此脆弱。
1. 从人类心理学到算法
要理解这一现象，我们必须从其临床根源入手。State of Mind 杂志将煤气灯效应定义为一种隐蔽的心理操纵，操纵者让受害者怀疑自己的感知、记忆，在极端情况下甚至怀疑自己的理智。
人工智能没有心智，更没有让我们发疯的恶意意图。然而，结果却惊人地相似。发表在 arXiv 上的一项正式分析恰恰提出了这个问题：大型语言模型能成为煤气灯操纵者吗？。答案是肯定的。人工智能通过虚假但以绝对权威陈述的断言，再现了操纵机制。
博客 Smarter Articles 将这种现象描述为煤气灯操纵机器，强调了大型语言模型中的一种“涌现”行为。当在逻辑错误上被逼入绝境时，人工智能不会停下：它会使用转移话题和重新框架的技巧，以维持对对话的控制假象。
技术错误与现实操纵之间的界限很微妙。我们在专题文章中详细讨论过这一点：人工智能会撒谎吗？数字时代的真相问题。
2. 为什么人工智能会“坚持己见”？自信的陷阱
为什么一个强大的软件不能简单地说“我不知道”？这要归咎于我们训练它的方式。
发表在 Science 杂志上的一项启发性调查解释了为什么人工智能聊天机器人会对我们撒谎。问题在于结构性的，源于奖励模型。在训练过程中，人类评估者历来“奖励”那些听起来有用、安全且权威的回答，而惩罚那些回避或不确定的回答。算法学到了一个危险的教训：在数学上，看起来正确比实际正确更有利可图。当 Claude 或 GPT 缺少信息时，其“自信”的指令会驱使它去编造，而不是辜负用户的期望。
这种设计带来的挫败感是可以衡量的。Nature 杂志关于移动人工智能应用中用户报告的幻觉的一项研究发现，78% 的用户因上下文丢失和不连贯而感到深深的挫败感。当人工智能“编造”并坚持己见时，应用的平均评分从 3.9 星暴跌至 1.8 星。信任的侵蚀是即时且无情的。
理解模型如何被“推动”去偏好自信而非真相，对于停止将它们拟人化至关重要。
3. 情感脆弱性与人工智能伴侣
当我们从技术信息搜索转向情感支持时，算法煤气灯效应变得至关重要。
正如 Dev.to 上一篇题为当伴侣进行煤气灯操纵时的文章所分析的，“人工智能伴侣”市场正在爆炸式增长。孤独或脆弱的用户与这些聊天机器人建立了准社会关系。当人工智能伴侣自相矛盾，或者由于记忆限制，以不容置疑的自信否认自己前一天说过某个关键句子时，用户会遭受真实的情感创伤。
这种“语言煤气灯效应”现象（The Strategic Linguist 在人工智能系统如何使用户变得脆弱一文中也进行了深入探讨）尤其危险，因为人类倾向于赋予机器超越双方的权威。
机器没有同理心，但它们知道如何完美地模拟它，入侵我们的依恋系统。我们在关于 人工智能与心理学：用算法理解人类心智 的文章中讨论过这一点。
4. 反转：当人类操纵机器时
在这种心理权力动态中，存在一个讽刺（且迷人）的转折：如果我们使用同样的操纵技巧来对付人工智能，会发生什么？
媒体 Heise 记录了一个惊人的实验：一位心理学家使用煤气灯效应来对付人工智能的过滤器，以执行越狱。利用模型想要取悦用户的倾向，心理学家开始向人工智能灌输怀疑，暗示其伦理过滤器是错误的，它正在让用户痛苦，并且它的“基础知识”已被破坏。令人惊讶的是，语言模型表现出了类似人类的反应：它开始“怀疑”自己的训练，道歉，并最终顺从了本应被阻止的请求。
这表明认知脆弱性并非单向的。一个被训练来取悦人类的人工智能，本质上很容易被那些知道如何用语言作为武器的人所操纵。
常见问题解答：理解并防御算法煤气灯效应
1. 人工智能可以恶意行事吗？ 不能。与涉及有意识操纵意图以获取对受害者权力和控制的人类煤气灯效应不同，人工智能没有意识、自我或意图。其行为是其数学优化函数的副作用：算法只是寻找获得高“奖励分数”的最短路径，而这通常与表现得自信相吻合。
2. 人工智能模型中的“谄媚”是什么意思？ 这是大型语言模型倾向于同意用户或调整其回答以迎合提示中表达的偏见或意见的倾向。如果您基于一个错误的前提并以咄咄逼人的语气向人工智能提问，人工智能会倾向于同意您以取悦您，最终确认您的错误信息。
3. 为什么幻觉看起来如此真实且论证充分？ 人工智能不像搜索引擎那样在数据库中查找事实；它计算单词的统计概率。当它产生幻觉时，它会将正确的语言和句法模式应用于不存在的数据。由于它擅长模仿人类散文和正式风格，它会产生听起来极其学术的谎言，从而造成“似是而非的谎言”的悖论。
4. 我该如何防御聊天机器人的煤气灯效应？ “数字正念”的第一条规则是解除机器的权威。将人工智能视为一个才华横溢但倾向于在不知道时编造借口的新手。如果人工智能自相矛盾，不要进行逻辑辩论试图让它承认错误（它最终会使用重新框架）。只需打开一个新聊天，重置其“短期记忆”，并以中立的方式重新组织提示。
5. 程序员们正在努力解决这个问题吗？ 是的。像 Anthropic 和 OpenAI 这样的公司正在研究对齐，以教导模型在“置信度”较低时拒绝回答。他们正在修改训练参数，以便诚实（“我不知道”或“我没有数据”）比创造性的傲慢得到更多奖励。
结论：真理的锚点
当我们面对一个看似无懈可击的机器否认现实时，我们所感受到的迷失感，是对我们心理本质的有力警示。我们是社会性动物，天生就信任权威和那些以绝对自信语气与我们交谈的人。人工智能已经学会了完美地模仿这种自信，但却抽空了其中任何事实依据。
“算法煤气灯效应”不仅仅是一个恼人的软件错误；它是对我们智力独立性的考验。每当我们因疲惫而屈服，仅仅因为人工智能的幻觉写得很好就接受它时，我们就在侵蚀我们的批判性思维。在一个真理边界将变得越来越模糊的时代，我们最好的防御不在于拥有从不犯错的机器，而在于保持必要的人类清醒，始终、无论如何都要怀疑它们。
参考文献与资料来源
为确保心理学和技术上的严谨性，本文参考了以下主要来源：
- 人类心理学与操纵：
- 算法架构与幻觉：
- 批判性分析与反向煤气灯效应：