数字永生的负担:人工智能与沉默权
数字永生的承诺正演变成一种令人不安的工程负担。将自己的数据托付给“悲伤机器人”并不意味着超越死亡,而是创造了一个商业模拟体,它继承了我们的声音,却不承担我们的责任,也不具备我们更新后的同意。通过剑桥大学的研究以及关于哀伤处理的精神病学理论,我们探讨“数字纠缠”(来自逝者的推送通知)的危险,以及将悲伤冻结为合成依赖的风险
数字永生行业的真正问题不在于人类留下自我记忆的古老愿望,而在于工程学上创造了一种商业化、持久且极难撤回的对话式身份。一个根据我们的文本消息、电子邮件和语音笔记训练出来的聊天机器人,可以在我们肉体消亡很久之后继续“回复”,然而它并不是我们:它是一种复杂的概率模拟,继承了我们的声音和文字印记,却无法丝毫分担我们的道德责任、我们更新的同意或我们基本的沉默权。随着大型语言模型的出现,身后记忆已从可供查阅的静态档案转变为可与之互动的主动实体,引发了前所未有的伦理、法律和心理问题。
“信息遗体”与规范真空
为了理解这一转变的严重性,有必要重新定义数字遗产这一概念本身。信息伦理学者引入了信息遗体(informational corpse)的概念:一个人的数字遗存不是简单的物质遗产——可供清算、转让或出售——而是构成人格本身深层而亲密的一部分,因此理应基于人的尊严原则获得严格保护。将逝者的数据视为“中立档案”意味着忽视这些信息的关系性本质。
然而,现行法律框架提供的保护十分脆弱。在大多数西方司法管辖区,法律保护和隐私权随着个人的肉体死亡而终止,造成了一个规范真空:谁有权决定一个人是否、以何种程度以及在多长时间内应继续“存在”于某家公司的服务器中?尽管存在这一立法局限,伦理和法律传统仍然承认对逝者记忆和尊严负有不可剥夺的道德义务。在这一不确定的背景下,事先明确同意成为唯一的防线:仅仅因为哀悼中的家属希望激活一个身后化身是远远不够的;必须确知当事人本人在世时的意愿。在缺乏明确指示的情况下,对数据、音频和视频的身后使用将面临欺骗、商业操纵和侵犯不可告人个人秘密的具体风险。
数字幽灵的架构
这些系统的设计需要一个严格的责任框架,与当前“订阅服务”的市场逻辑相去甚远。剑桥大学开展的一项研究区分了数字来世生态系统中的三个基本角色:数据捐赠者(留下原始数据的人)、数据接收者(在死亡后正式控制数据的人)和服务互动者(实际与模拟进行对话的人)。这种三分法表明,伦理负担不仅涉及逝者,还沉重地落在留下来的人身上,他们可能面临一种未经请求的合成存在。为减轻这些风险,学者们提出以下要求:相互同意义务、对回复来源的实质性透明、严格禁止未成年人访问,以及建立敏感且受引导的“撤回”死灵机器人程序。
一个更新的分类法确定了创建数字幽灵的九个结构维度,并设定了系统得以存在的三个近乎绝对的条件:明确无误的同意、忠实与披露(用户必须始终知道自己是在与机器对话),以及目的的清晰性。如果这三项伦理条件中任何一项缺失,模拟就不再是纪念物,而变成了一种不可接受的构造物。
商业骚扰与撤回权
当分析目前市场上服务的用户界面时,“负担”这一意象变得残酷地具体。剑桥大学的研究人员发出了严厉警告:缺乏伦理约束设计的死灵机器人可能真的会“数字骚扰”哀悼中的家属。集成在智能手机中的身后化身可能发送未经请求的推送通知以刺激参与度,发送持续不断的信息,或者在最坏的情况下,利用逝者的声音和情感权威来传播定向广告。
问题不仅在于被保存在数据库中,更在于被用作关系渠道而没有任何沉默的可能。因此,实施清晰明确的退出协议是让留下来的人达成最终情感了结的不可或缺的要求。
合成哀悼的心理学
在临床和心理学层面,悲伤机器人对哀悼过程的影响是一个激烈争论的话题。当代心理学通过持续联结(continuing bonds)理论承认,与逝者保持内在联系可能是一种完全健康和功能性的机制。然而,核心问题在于互动式模拟是支持这一自然过程,还是将其人为地冻结在无限循环中。
全球精神病学定义了“延长哀伤障碍”的标准,其特征是强烈而持久的渴望、对逝者的强迫性关注、刺骨的情感痛苦以及日常生活的功能损害。尽管不应仓促地对这些平台的用户进行诊断,但显而易见的是,一个始终在线、顺从且不眠的AI存在可能助长回避机制,强化功能失调的依恋,并增加哀悼个体重新融入社会的困难。为遏制这一临床风险并阻止情感依赖,一些学者主张死亡机器人应仅被设计为临时性和仪式性工具,用以促进最后的告别,而绝不应成为与逝者之间持续且无限期的渠道。
我们这个时代必须面对的真正问题不是简单的科幻式暗示“我希望我的声音能存活下来吗?”。关键问题是:谁有权让我说话,关于什么话题,出于什么隐秘的商业目的,以及到什么时候?一种成熟且负责任的数字永生必然应包括一份具有约束力的“算法遗嘱”,其中明确规定什么可以用于训练模型、谁有权与之互动、哪些话题被严格禁止、机器人何时必须沉默,以及通过什么程序可以将其最终停用。数字永生,撇开营销承诺不谈,不会是一份神奇的礼物,而是一种托付给他人的巨大而危险的力量;而真正需要奋力捍卫的权利不是永远在线的权利,而是有意识地选择如何以及何时让沉默来代表我们的权利。
参考文献与来源
- [Griefbots, Deadbots, Postmortem Avatars: On Responsible Applications of Generative AI in the Digital Afterlife Industry — Philosophy & Technology, 2024; University of Cambridge]
- [Call for safeguards to prevent unwanted ‘hauntings’ by AI chatbots of dead loved ones — University of Cambridge, 2024]
- [The making of digital ghosts: designing ethical AI afterlives — Ethics and Information Technology, 2026]
- [An Ethical Framework for the Digital Afterlife Industry — Philosophy & Technology]
- [Death bots, grief bots, and posthumous avatars — AI and Ethics, 2025]
- [The Many Faces of Indeterminacy in Interactive Deadbots — PMC, 2026]
- [Embracing grief in the age of deathbots: a temporary tool — Ethics and Information Technology, 2024]
- [AI and grief: A prospective study on the ethical and psychological implications — Aalborg University]
- [Bereavement issues and prolonged grief disorder: A global perspective — PMC, 2023]
本文由La Bussola dell’IA编辑部撰写