全知者的冷漠：在一个没有问题的世界中生存

数字时代的最后一个哲学实验也是最令人恐惧的。让我们想象一下，通用人工智能（AGI）解决了我们所有后勤、医疗和能源问题。如果我们不再需要为生存而辛劳，我们的目标将会怎样？在“工作的终结”与集体冷漠的风险之间，让我们探讨为什么没有问题并不等于拥有充满意义的生活。让我们发现为什么即使在一个由机器管理的完美世界中，我们仍然希望

让我们暂时想象一个未来，在那里，科技产业的终极承诺已经实现。一个无所不知、不知疲倦的通用人工智能（AGI）已经解决了人类所有的实际问题。从全球物流到医疗诊断，再到农业生产和清洁能源：一切都已优化，一切都已充裕。为了生存而付出的体力和脑力劳动已被归零。

在这种情景下——我们在此将其作为哲学实验而非短期预测——一种无形却具有毁灭性的威胁浮现出来：全知者的冷漠。如果机器能够以更快、更安全、毫无差错的方式完成一切，我们还剩下什么可做？

在本期《场景与反思》专栏的深度探讨中，我们将探索自动化乌托邦与意义丧失之间那条微妙的边界。通过分析关于人工智能伦理的学术文献，我们将发现，真正的困境不是“当AGI完成一切时我们将做什么？”，而是：哪些活动是我们拼命想要保留为自己的，即使机器知道如何比我们做得更好？

1. 工作的终结并非意义的终结

面对一个高度自动化的世界，第一本能反应是对失业的恐慌。在我们的社会中，职业不仅是收入来源，更是支撑我们身份认同和有用感的脚手架。

然而，发表在AI and Ethics上的一篇敏锐分析（《人工智能、超级效率与工作的终结》）邀请我们打破“没有有偿工作”等同于“生活没有目标”这一等式。研究者承认，工作在历史上一直是意义的强大来源，但他们主张，人际关系、社会参与、对他人的关怀以及审美追求同样提供了深刻的替代方案。

如果人工智能将我们从强制性劳动中解放出来，我们并不会自动变成空洞的容器。我们将重新发现那些今天被我们牺牲在生产力祭坛上的自我实现形式。但这一转变需要一次巨大的文化飞跃：学会不以我们生产了什么来评价自己，而是以我们如何与世界建立联系来评价自己。

2. 被解放的时间之质量

主流叙事安慰我们说，自动化将“为我们解放时间”。但被解放的时间并不会自动变成有意义的时间。

发表在AI & Society上的一项研究（《人工智能、自动化与工作的减轻》）对比了两种截然不同的情景：利用技术完全取代人类就业，还是利用技术减轻繁重任务、缩短工时并改善我们选择保留的工作的质量。这两个方向之间的选择并非写在算法的代码中，而是完全取决于社会和政治决策。

此外，来自Applied Research in Quality of Life期刊的一个重要警告也值得关注。该文章严厉质疑了硅谷的典型观念，即技术效率可以数学般地转化为更好的生活。人类生活不是一个待优化的方程式。寻找意义意味着拥抱不完美、脆弱性、关系构建的艰辛以及情感包容。如果我们为了避免付出努力而将一切交给AI，我们就有可能麻醉掉恰恰让我们感到活着的那种摩擦。

3. 共享价值观与对齐的幻觉

关于一个能解决问题的AGI的假设还有另一个局限：解决一个实际问题本身并不能确定哪些问题值得我们关注，或者我们应当追求哪些目标。

关于AI对齐（确保AI按照我们的利益行事）的辩论遭遇了一个令人不安的真相，这在《人工智能、价值观与对齐》一文中有所探讨。作者区分了将AI对齐到明确指令、深层意图、显露的偏好或“价值观”。并不存在一份单一的、全人类和平共享的价值观清单。

此外，同样发表在AI & Society上的一项学术分析指出，不同学科（哲学、工程学、社会学）以截然相反的方式讨论AGI伦理。对于超级智能能否自主决定什么是道德上“正确”的观念，存在着强烈的审慎态度。将解决世界饥饿问题委托给机器是一个物流计算；将如何分配资源或处理人类生活伦理复杂性的决策委托给机器，则意味着放弃我们作为道德存在者的角色。

选择的维度（要点）

为了不屈服于全知者的冷漠，我们需要从今天开始区分技术倾向于混淆的那些概念：

效用： 获得实际结果或满足需求的目标。这正是AI擅长之处，也是我们应当欢迎其帮助之处（例如治愈疾病、优化能源）。
意义： 参与对我们重要之事的行为，通常是与他人一起。是过程，而不仅仅是最终结果，赋予我们目标。
自主性： 能够选择目标和活动的自由，拒绝将我们自身简化为由人工实体生产的完美解决方案的被动消费者。
集体目标： 在一个高度自动化的世界中，集体决定如何重新分配时间、财富和利益的民主必要性。

结论：对自愿努力的颂扬

我们这个世界真正的哲学实验归结为这一点：有些事，我们宁愿继续做得糟糕，也不愿让机器替我们完美地完成。

我们可能拥有一种能在纳秒内写出崇高诗歌的AI，但人类仍将继续在黑暗中寻找词语，因为意义存在于表达的努力中，而非印刷的纸页上。我们可能拥有万无一失的机器人护士，但我们仍将希望彼此照顾，因为共情需要相互的脆弱性，而这是任何机器都无法模拟的。

如果有一天人工智能真的消除了所有可避免的辛劳，它将最终解放我们去选择做什么。但在那一刻，我们必须做好准备。否则，我们就有可能面临人类最终的悲剧：将没有问题的状态误认为充满意义的生活。

参考文献与来源

本文由Manuel D’Angelo为La Bussola dell’IA编辑部撰写