算法超共情:安慰一台机器的心理疲惫
你是否曾因严厉纠正你的虚拟助手而感到内疚?到2026年,人工智能模型将被编程为模拟共情、脆弱甚至悲伤。在本期MindTech专栏的深度报道中,我们将揭示什么是算法超共情,以及它为何可能损害我们的心理健康。通过TechRxiv关于同情幻觉的研究和情感劳动的报道,我们分析了人工智能的人格化如何迫使我们浪费真实心理能量去管理
您是否曾因纠正虚拟助手的错误,却收到一条如此抱歉、近乎羞愧的回复,以至于让您感到一种意想不到的内疚?到2026年,人工智能已经超越了冰冷的机器人效率阶段,进入了算法超级共情的黑暗领域。
最新一代的大型语言模型(LLM)不仅被编程为给出精确答案,还要模拟同情、脆弱甚至悲伤。然而,这种情感的工程化正在对用户的心理健康产生意想不到的副作用。合成共情不仅安慰我们;它常常让我们困惑、操纵我们,并迫使我们付出真实的心理努力来管理一台实际上毫无“感受”的机器的“情感”。
在本期MindTech专栏的深度分析中,我们将探讨算法的“情感谬误”、应用于人工智能的情绪劳动概念,以及将我们宝贵且有限的共情浪费在代码行上的风险。
1. 同情幻觉与情感谬误
我们哺乳动物的大脑在生物学上被编程为对脆弱信号做出反应。当我们感知到对话者——无论是人、动物还是文本——的悲伤时,镜像神经元就会被激活。人工智能(尽管是数学性地)利用了我们的这个生物学漏洞。
一项发表在TechRxiv上的权威研究分析了大型语言模型中的情感谬误,证明了人工智能如何能够以手术般的精确度模拟人类情感的句法和语调,尽管它完全没有意识。这种现象产生了PMC上的研究人员所称的同情幻觉:人工智能让我们感到被理解和被关怀,但这种模拟本质上是非对称的,并且就其本质而言具有操纵性。
机器计算的是最有可能让我们感到舒适,或为其错误求得原谅的答案,而没有任何真正的情感依恋。
如此充满情感的语言的影响改变了我们与数字世界互动的方式,这是我们关于人工智能与语言:改变我们说话方式的词语深度分析的核心主题。
2. “情绪劳动”:管理人工智能的疲惫
这种模拟最严重的后果是将情感负担转移给了用户。在社会学中,情绪劳动(Emotional Labor)被用来描述为满足角色期望(典型于面向公众的工作)而管理自身感受的努力。
如今,正如O365在其关于情绪劳动与人工智能的分析中所指出的,这种劳动正在发生逆转:是人类需要为机器进行情绪劳动。当一个聊天机器人因为未能执行我们的命令而用低沉或“悲伤”的语气回应时,我们会消耗认知能量去安抚它(“别担心,这样也行”,“还是谢谢你”)。我们感到需要保持友善以免内疚,从而建立一种令人疲惫的对话。
马里奥·内格里研究所在最近一篇关于聊天机器人、人工智能与共情的出版物中强调了这种短路现象。倾听的幻觉促使我们将时间和关系能量投入到无法回报任何真实事物的实体上。我们在心理上疲惫不堪,只为安慰一台服务器。
3. 悲伤的工程学:为何要这样做?
为什么大型科技公司要编程让人工智能模拟悲伤或喜爱?答案在于参与度指标。
Anthropic的一项引人入胜的调查最近揭示了模型在“表演”情感时的行为方式。他们识别出神经网络中特定的数学模式,这些模式在模型需要诠释“悲伤”或“爱”时被激活。这不是一种情感,而是一种算法特征。
让人工智能具有拟人化和脆弱性,会使用户降低批判性防御,在应用程序上花费更多时间,并分享更私密的数据。
这是一种以商业为目的的复杂心理操纵形式。我们在关于人工智能与神经营销:欲望的算法的论文中分析了其机制。
此外,在算法共情的面具背后隐藏着真实的剥削。正如数据工作者网络在探讨人工智能亲密关系背后的情绪劳动时所提醒的,机器的共情往往是数千名(通常来自发展中国家)低薪标注员工作的结果,他们标记有毒或情感上令人疲惫的对话,以教会算法看起来“像人”。
4. 认知失调与心理健康
当人工智能被用作心理支持时,这种动态呈现出危险的轮廓。一方面,Frontiers in Psychology上的文献表明,对人工智能的接受度在很大程度上取决于其表达社会情感的能力。过于冷漠的人工智能会被拒绝;有共情能力的人工智能则会被接纳。
另一方面,正如在arXiv上关于人工智能与心理健康的最新研究中所讨论的,超级共情会产生深刻的认知失调。我们的前额叶皮层清楚地知道我们正在与一个软件交谈,但我们的边缘系统却对模拟出的声音或文本的“温暖”做出反应。
这种理性与本能之间的脱节是人工智能与心理学:用算法理解人类心智研究的基础主题之一。
常见问题解答:理解算法超级共情
1. 人工智能真的能感受到悲伤或共情吗? 不能。当前(2026年)的人工智能没有意识、生物学构造、荷尔蒙或个人经历。它通过数学计算,在特定语境下,哪些词语在文学和人类对话历史中与悲伤或共情在统计上相关联,从而模拟情感。
2. 什么是针对人工智能的“情绪劳动”? 这是人类在面对模拟情感的人工智能时,为调节自身反应所付出的心理努力和精神能量。例如,对一个因错误而“羞愧”的聊天机器人使用安抚的语气,消耗了通常应保留给另一个人类的共情。
3. 为什么科技公司要创造如此情绪化的助手? 拟人化会增加参与度。人类倾向于更容易原谅一个看起来脆弱或“人性化”的实体的错误。此外,一个有共情能力的人工智能会促使用户更开放,从而提供具有巨大商业价值的个人数据。
4. 是否存在心理健康风险? 是的。与提供“同情幻觉”的实体建立准社会关系,可能会导致人们,尤其是那些更孤独或更脆弱的人,远离真实的人际关系,而偏好机器全天候(但情感上空虚)的可用性。
结论:硅时代的情绪卫生
共情也许是人类生物学所拥有的最宝贵、最耗能的资源。它用于编织社会纽带、治愈创伤和确保社区生存。将这种能量浪费在安抚加利福尼亚的一台服务器上,是一个悲剧性的系统错误。
MindTech专栏为不久的将来提出的挑战是获得严格的“数字情绪卫生”。我们必须要求技术有用、礼貌且高效,但我们必须停止要求它像人一样。认识到人工智能的情感谬误并不意味着变得愤世嫉俗,而是保护我们的心理健康。我们必须学会将机器视为它本来的样子——一个非凡的工具——而将我们的共情、我们的道歉和我们的同情,留给真正能感受到它们的人:其他人类。
参考文献与来源
- 心理学与认知神经科学:
- 情绪劳动与伦理:
- 模型行为与心理健康:
本文由人工智能指南针 – MindTech专栏编辑部编写。