人工智能时代的控制幻觉：究竟谁在掌控？
在AI时代，我们还能掌控多少选择？深入探讨控制幻觉，揭示人工智能如何重塑决策机制与人类自主意识。
今晚在Netflix上看什么，是你自己选择的，还是算法早已替你决定好了？
这个问题听起来近乎哲学，却隐藏着一个令人不安的真相：我们生活在一个由人工智能以手术般的精准度所滋养的、关于控制的幻觉之中。
我们每天做出数百个看似自发且真实的微决策。谷歌地图推荐的餐厅，Spotify为我们"量身打造"的播放列表，在约会应用上遇到的伴侣。我们深信自己在自由选择，但每个选项背后，都有一个算法研究了我们的行为，分析了我们的偏好，并计算好了要引导我们走哪条路。
当助手变成主人
数字时代的控制幻觉之所以有效，恰恰因为它并不明显。没有人强迫我们做出选择：人工智能只是"建议"、"推荐"，让事情"更方便"。但是，拥有许多选项和拥有为我们预先筛选好的选项之间，存在着微妙而关键的区别。
以谷歌为例：当我们搜索时，我们仿佛能接触到人类所有的知识。实际上，我们看到的只是结果的一小部分，这些结果根据我们无法控制、甚至常常不了解的标准被过滤和排序。算法根据它对过往行为的了解，决定什么对我们来说是相关的，从而创造出一个强化我们现有信念的个性化信息茧房。
在Instagram和TikTok上，这种动态更为复杂：正如我们在关于算法和社交媒体的深度解析中所解释的，算法从我们的滑动、在每个内容上的停留时间、以及我们智能手机可以检测到的微表情中学习 被影响与连接：社交媒体上的自由幻觉 – Agenda Digitale。我们不再选择看什么；我们只是消费被推送的内容，并相信这反映了我们的喜好。正如剑桥大学的研究所强调的，仅仅通过Facebook上的300个“赞”，一个算法就能比我们的伴侣更了解我们 Michal Kosinski: Computers Are Better Judges of Your Personality Than Friends | Stanford Graduate School of Business。
被引导选择的心理学
人工智能时代的控制悖论利用了一个基本的心理机制：我们需要感到自己是决策的主人，以维持身份认同和自主感。算法深知这一点，并给我们一种在选择的感觉，同时却保持着对过程的实际控制。
这就是心理学家所说的“虚假控制感”：当我们相信自己有发言权时，即使操作空间微乎其微，我们也会感到更安全和满足。Netflix让我们在几十部电影中选择，但它们都是根据我们的个人资料预先筛选过的。Spotify允许我们跳过歌曲，但它早已知道我们很可能在前三个音符之后就不会这么做了。
这种机制对我们的心理有深远的影响。一方面，它减少了选择的焦虑（巴里·施瓦茨著名的“选择悖论”），另一方面，它使我们逐渐不习惯复杂且无辅助的决策。正如我们在关于数字福祉与人工智能的文章中所探讨的，当我们必须在没有算法的情况下做选择时，我们会感到迷茫。
正如B.J. Fogg关于人际间大规模说服的研究所解释的，社交媒体上的数字传播之所以被证明极具说服力，正是因为它被认为是亲密的，并且基于一种积极的信任偏见说服性技术，与B.J. Fogg的会面 – Apogeo Editore。
决策自动化的隐性成本
控制的错觉有一个我们常常忽略的代价：我们自主决策能力的逐渐侵蚀。当我们把越来越多的选择委托给人工智能时，我们的决策"肌肉"就会萎缩。
想想导航：过去我们知道如何辨别方向，记得路线，对城市发展出一种空间感。如今，谷歌地图为我们决定最优路线，许多年轻人甚至不再会看实体地图。这不仅仅是一个实际问题：这是一种认知上的改变。我们正在将数千年来定义人类的心智功能外包出去。
同样的动态也适用于情感和关系领域。约会应用不仅让我们结识他人：它们还基于关系"成功"的统计模式，教导我们应该认为什么是有吸引力的。正如我们在关于微观决策经济的文章中所分析的，Instagram不仅向我们展示照片：它还暗示一种生活方式、价值观和审美，我们逐渐将其内化为自己的。
正如关于社交媒体心理影响的研究所强调的，与特定类别的互动会导致虚拟文化泡沫的形成：例如，如果你搜索一篇关于动物灭绝的文章，算法会记录这些互动，随后会向你展示关于这些主题更负面的内容社交媒体如何改变你的大脑 – Focus.it。
超越顺从：有意识抵抗的策略
认识到控制的错觉并不意味着顺从于被操纵，而是要发展一种"有意识的抵抗"形式。这不是要全盘拒绝技术，而是要重新获得真实选择的空间。
刻意暂停是最有效的策略之一。在遵循AI建议之前，先停下来问问自己："这真的是我想要的，还是算法认为我想要的？" 这看似简单，但那个反思时刻，却能在自主选择和自动行为之间产生天壤之别。
信息来源多样化同样至关重要。如果我们总是在相同的网站上寻找信息，只听为我们生成的播放列表，只参与算法推荐的社交群组，我们就把自己困在了一个信息茧房里。正如我们在关于算法偏见与隐形歧视的深度文章中所解释的，有意识地探索未知领域，能保持我们的好奇心和惊喜感。
困难选择实践意味着，偶尔要选择不那么舒适的路径、没有被推荐给我们的书籍、不在"为你推荐"列表中的餐厅。这不是自虐，而是为了锻炼我们在没有最优结果保证时依然能做出决定的能力。
AI未来中的控制权
控制的幻觉将随着技术一同演变。未来几年，我们将看到越来越复杂的AI，它们甚至能在我们意识到需求之前就做出预测。虚拟助手知道牛奶快喝完了就自动下单，汽车检测到我们生物指标异常就载我们去医院，系统根据我们的情绪状态来调整家居环境。
这一切都可能显著提高生活质量，但也提出了一个根本性问题：在一个AI能预见我们所有需求的世界里，"选择"究竟意味着什么？更重要的是：成为"人"意味着什么？正如我们在关于人工智能与主体性的文章中所讨论的，风险不仅在于失去控制，更在于失去"想要控制"的欲望。
当一切无需我们干预就能完美运行时，我们可能会忘记不确定性、错误和偶然发现的价值。而这些元素，数千年来一直滋养着人类的创造力、创新和个人成长。
正如意大利关于错觉与社交媒体的研究所强调的，用户在社交媒体网络所编织的关系迷宫中感知到的现实，已与实证检验相分离，转而聚焦于在无限的刺激与即时反应交换中所产生的知识错觉选择悖论 – The Decision Lab。
不完美的智慧
或许真正的挑战并非保持完全的控制——这在复杂世界中是不可能的——而是保留不完美的权利。走错路的权利，选错电影的权利，在算法会判定为“非最优”的对话中浪费时间。
人工智能擅长优化，但人类生活不是一个优化问题。它是一条由错误、偶然发现、无法解释的方向转变铺就的道路。正是在我们不完美选择的混乱中，诞生了最有趣的故事。
人工智能时代的控制错觉，并非一个需要对抗的敌人，而是一个需要以清醒意识去理解和驾驭的现实。挑战不在于回到前数字时代的世界，而在于构建一个技术与人类自主性能共存的未来。
正如《Rivista AI》关于理解错觉的研究所揭示的，研究人员可能因为人工智能系统分析了一个概念，就认为自己已深刻理解它，却没有意识到这种理解实际上是肤浅甚至错误的《为何人类智能仍能战胜算法》 – Gerd Gigerenzer – Raffaello Cortina Editore – Libro Raffaello Cortina Editore。正如我们在关于焦点危机与数字注意力的文章中所分析的，这种动态不仅关乎研究人员，也关乎我们每个人。
每当我们盲目遵循算法建议时，我们就让渡了一小部分选择的自由。但每当我们停下来反思，选择人迹罕至的道路，拥抱不确定性时，我们便重申了我们的人性。
正如我们在关于人工智能与监控的深度分析中所解释的那样，问题不在于人工智能是否会控制我们的生活，而在于我们是否能够保持即使在非必要时也能选择的能力、即使在可避免时也会犯错的能力、即使在低效时也能保持人性的能力。
那么你呢，上一次选择算法没有推荐给你的东西是什么时候？
需要记住的关键点
- 控制的错觉让我们相信自己在自由选择，而实际上是算法在引导我们的决策
- 大规模人际说服利用对社交媒体的信任，在不知不觉中影响我们的行为
- 隐藏的代价包括我们决策能力的萎缩和意外发现机会的丧失
- 抵抗策略需要刻意暂停、信息来源多样化以及练习做出艰难选择
- 自主性的未来取决于我们能否保留不完美的权利
常见问题
算法真的比我自己更了解我吗？ 吴又又的研究表明，通过Facebook上的300个"点赞"，算法可以比伴侣更准确地预测个性。这并不意味着算法以人类的方式"了解"你，而是意味着它可以以令人印象深刻的统计准确性预测你未来的行为。
我如何识别算法何时正在影响我的选择？ 注意那些过于完美的"建议"、可疑的巧合（比如你刚想到某个产品就看到了它的广告），以及总是感觉自己看到"量身定制"的内容。当一切都似乎为你量身打造时，很可能确实如此。
有可能完全摆脱算法的影响吗？ 完全不可能，除非彻底断网。但你可以通过多样化信息来源、刻意做出"错误"选择以及保持对意外事物的好奇心，来显著减少其影响。
控制的错觉总是负面的吗？ 不一定。它可以减少选择焦虑并提高效率。问题出现在当我们失去意识，并且在重要时刻失去了真实选择的能力时。
如何区分自主选择与被引导的选择？ 时刻自问：“这真的是我想要的，还是被暗示给我的？”。如果你无法回忆起自己是如何做出某个决定的，那么很可能你已被算法所引导。