计算文盲:人工智能与批判性思维的缓慢侵蚀

人工智能并不会抹去我们的能力,而是将其转移。将复杂推理交给ChatGPT和其他LLM,可能会引发一种新形式的“计算文盲”。通过微软研究院和卡内基梅隆大学的最新研究,探索认知卸载和“理解错觉”的概念,本文分析了将机器作为批判性思维的脚手架与沦为简单“被动批准者”之间的微妙界限。未来真正的能力不在于生成答案,而在于知道何时

人类历史上的每一次技术飞跃都伴随着某种形式的外包:我们将体力委托给蒸汽机,将长期记忆委托给文字,将算术计算委托给硅处理器。今天,随着生成式人工智能全面融入知识工作流程,我们正在见证一种性质截然不同的外包:分析推理的外包。新兴的社会学警报并非关乎纯粹而简单的知识丧失,而是关乎一种新的认知性“计算文盲”的起源。

然而,对科学文献的严谨分析要求我们避免道德恐慌:人工智能并不会自动“抹除”人类的逻辑能力,而是将其转移和转化。如果将其作为智力脚手架使用——用于比较不同假设、核实来源或压力测试自己的推理——人工智能可以支持和提升批判性思维。反之,如果将其作为替代艰苦计算、细致验证和伦理决策的神谕,则可能引发危险的萎缩:降低自我效能感,掏空对自身工作的所有权(ownership)意识,并削弱个体自主解决复杂问题的能力。

认知卸载:更好的结果,更少的能力

问题的核心在于心理学中被称为cognitive offloading(认知卸载)的现象。微软研究院和卡内基梅隆大学的研究人员在CHI 2025会议上发表的一项核心且具有决定性的研究,通过分析936个真实用例,调查了生成式人工智能对319名知识工作者批判性思维的影响[2967, 2975]。数据揭示了一种反常的机制:使用人工智能大幅降低了运用批判性思维所需的感知努力,助长了对机器的过度依赖。该研究证明了极其清晰的关联:对人工智能预先信任度越高,人类批判性思维的运用就越少;而对自身智力能力信心越强,对算法输出的分析就越严谨。

这种动态产生了一个培养悖论,发表在Cognitive Processing(2026年)上的一项实验研究对此进行了很好的阐释,在该研究中,年轻人需要识别复杂文本中的逻辑谬误[2968]。由ChatGPT支持的组获得了显著更多的正确答案,同时报告了更少的脑力消耗。然而,更深入的分析显示,这同一组在独立推理、自主验证倾向和元认知监控方面表现出令人担忧的缺陷。于是一条隐蔽的鸿沟得以巩固:企业或个人在短期内获得“更好的结果”,但人类让渡了“保持的能力”的关键份额。

发表在Societies(2025年)上的另一项针对666名参与者的调查显示,频繁使用人工智能工具与结构化批判性思维能力之间存在负相关,这种关联正是由认知卸载倾向所中介的,但研究也指出,扎实的高等教育起到了保护性因素的作用[2976, 2977]。

理解的幻觉与被动审批者的风险

为什么我们如此信任、如此迅速地信任一种句法计算?心理机制与前沿模型的语言界面有关。正如arXiv(2025年)上一篇关于保护和增强人类认知的论文所论述的,大型语言模型产生的输出本质上连贯、看似详尽且在语言上令人愉悦[2973]。这种形式上的完美能够绕过我们天然的怀疑态度,抑制必要的判断悬置,并在用户心中制造一种危险的“完全理解的幻觉”。一篇写得漂亮、以算法自信格式化过的文本,在认知上比一篇明显语法错误或内容错误的文本要危险得多。

操作层面的风险是专业人士沦为纯粹的“被动审批者”。微软研究院的一份报告(The Future of AI in Knowledge Work,2025年)总结了这一动态:当感知到的利害关系很高(high stakes)时,专业人士会对人工智能的输出施加严格的批判性思维。但在日常任务中,或在强烈的时间压力下工作时,批判意识就会崩溃[2975]。在一个健康的生态系统中,合成时代的基本法则应该是:可以委托程序性执行,但绝不委托判断。知识工作的重心必须不可避免地从纯粹的内容生成转向交叉验证的艺术、整合不同来源以及任务的伦理监督。

超越决定论:计算器的教训

当前关于认知衰退的讨论往往有沦为卢德式灾难主义的风险。正如IEEE Computer Society(2025年)所强调的,cognitive offloading并非始于ChatGPT。我们早已将空间导航委托给GPS,将算术委托给袖珍计算器[2990]。使用外部工具来降低低层次的认知负荷,释放了宝贵的资源,人类大脑可以(也应该)将这些资源再投资于更高层次的任务。问题不在于工具本身,而在于准确识别我们不再日常练习的是哪些人类能力。我们是在外包导数的计算,还是在外包对数学问题的理解?

在此背景下,方法论上的严谨至关重要。卡内基梅隆大学的研究人员严厉警告称,当前的恐惧虽然有其依据,但基于初步证据。将大量使用人工智能与学习阶段功能性脑连接性降低或信息可记忆性降低联系起来的观察性研究显示了强相关性,但并非确定的因果关系[2971, 2972]。必须保持谨慎,不要将令人担忧的统计相关性转化为关于人类智力终结的不可避免的预言。

设计摩擦:认知能动性的设计

如果问题不在于机器,而在于我们与之互动的方式,那么解决方案也必须在软件设计中寻找。研究人员提出了范式转变:设计旨在增强而非粗暴替代人类保持的认知的人工智能系统[2974]。一个旨在支持批判性思维的人工智能不应仅仅提供完美答案;它应该明确表达自身的不确定性程度,询问用户某一假设的理由,展示潜在冲突的来源,并在用户界面中留出充足的空间供探索和推理审查。它必须重新引入一种健康的“认知摩擦”。

知识分子、科学家和专业人士今天必须问自己的真正问题,不是那个平庸的防御性诉求“我是否应该停止使用人工智能以免我的大脑萎缩?”。核心问题是:我仍然主张由我自己来完成推理的哪个具体部分?

如果算法被用来计算概率场景、比较海量数据集并提出结构性变体,我们正在见证人类能力有史以来最伟大的延伸。但如果我们要求同一算法自主决定什么是真什么是假、哪个科学或商业假设值得检验、以及应该采取哪种道德选择,那么人类就是在放弃自己的角色。归根结底,21世纪的计算文盲不在于技术上有能力为一个语言模型编写一个好的prompt。它将是令人绝望地无法理解:模型何时在数学上是正确的,何时在貌似合理地产生幻觉,以及何时一个决定——就其本质而言,无论是伦理的还是战略的——不能委托给任何其他人,只能由我们自己来做[2967, 2973, 2974]。

参考文献与来源

  • [The Impact of Generative AI on Critical Thinking — CHI 2025; Microsoft Research e Carnegie Mellon University] [2967, 2975]
  • [Cognitive offloading, critical thinking and attitudes towards AI — Cognitive Processing, 2026] [2968]
  • [AI Tools in Society: Impacts on Cognitive Offloading and the Future of Critical Thinking — Societies, 2025; Michael Gerlich] [2976, 2977]
  • [The Future of AI in Knowledge Work — Microsoft Research, 2025] [2975]
  • [Understanding, Protecting, and Augmenting Human Cognition — arXiv, 2025] [2973]
  • [Designing AI Systems that Augment Human Performed vs. Replaced Cognition — arXiv, 2025] [2974]
  • [Cognitive Offloading: How AI is Quietly Eroding Our… — IEEE Computer Society, 2025] [2990]
  • [How AI Impacts Skill Formation — arXiv, 2026] [2971]
  • [AI may blunt our thinking skills — Carnegie Mellon University / New Scientist] [2972]

文章由La Bussola dell’IA编辑部撰写