收养与算法：为什么人工智能无法衡量一个家庭
人工智能在儿童保护和收养系统中的应用，承诺通过算法匹配彻底改变这一领域，但调查和科学文献揭示了一个令人震惊的现实。通过考察Family-Match和Allegheny Family Screening Tool的案例，可以看出预测性软件有可能惩罚贫困家庭和少数群体，将社会经济困境转化为算法风险因素。本文援引联合国公约和
人工智能拥有对庞大数据库进行排序、识别官僚系统内隐藏资源以及基于重复模式提出匹配建议的非凡能力，但它面临一个不可逾越的局限：它既不具备本体论工具，也不具备伦理工具来判断一个人是否“适合”担任父母角色。对有意收养者或寄养家庭的心理、情感和经济评估并非简单的数学优化问题。这是一项涉及基本权利、社会经济不平等、贫困状况、残疾、族裔出身，尤其是儿童未来与安全的调查，因此这一决定必须由人类作出、多学科参与、具有充分理由且在法律上可被质疑。
匹配的幻觉：Family-Match案例
技术承诺与收养实践中极为微妙的操作之间的差距，在美联社对Family-Match算法的调查中清晰得令人震惊。这一计算工具明确受到在线约会应用机制的启发，旨在为寄养系统中的儿童与有意收养的父母之间分配“关系兼容性”评分。然而，调查揭示，在弗吉尼亚州和佐治亚州，实际效果极为有限，暴露出向对该类匹配毫无兴趣或毫无准备的家庭进行推荐的情况，并引发了人们对软件推广者所宣称效果的深刻质疑。
这种方法的失败不仅限于统计准确性不足，更根植于所处理数据的本质。Family-Match算法吞噬并处理了超过250个敏感变量来计算其兼容性指数。这些参数中包括极其私密且可能带有污名化的信息，如过去的性虐待经历、犯罪记录以及所涉未成年人的LGBTQIA+身份。在这一场景中，核心问题不仅是所提议匹配的优劣或效率，而是在一个不透明且无法接受公众审查的软件架构中，大规模收集和无监督使用极其私密的数据。
数字监控、偏见与贫困之罪
人工智能在美国儿童福利系统中的引入迄今遵循着一条明确而令人担忧的轨迹。一项基于50篇关于儿童保护中计算系统文献的学术综述表明，绝大多数实施案例涉及仅以风险计算为导向的预测模型。而真正的关系匹配、社会工作者人文视角的整合以及个案记录笔记的定性分析等关键功能，恰恰相反，在软件中严重缺乏整合或被完全忽视。
这种对“风险”的聚焦产生了一种算法短路，惩罚了社会中最脆弱的群体。一项关于美国知名预测模型Allegheny家庭筛查工具的深入研究揭示了一种无可辩驳的结构性偏见：贫困家庭或少数族裔家庭因需求而与公共服务互动的频率远高于其他群体，从而积累了不成比例的大量行政数据。算法在读取这些海量数据并将过去的调查作为未来的预测因子时，最终给这些家庭系统性地分配更高的风险评分，放大了歧视性的恶性循环。核心要点在于，贫困和经济匮乏并不等同于育儿疏忽，但在公共数据集中，它们总是不可避免地看起来像一个巨大的风险因素。
为缓解这一偏差，研究人员强调有必要明确区分两种使用目的：使用机器学习来识别并为困难家庭提供预防性资源，与用它来选择调查哪些家庭或从哪些家庭带走儿童，有着本质区别。后一种假设因其毁灭性后果，需要比前者高得不可比拟的证据标准。乔治城法学院隐私与技术中心完美地总结了这些关键问题，指出当前系统有效性证据不足、问责制几乎不存在、公共机构与私营软件供应商之间的权力不对称，以及使用社会经济代理变量评估育儿能力的极端危险性。面对这一制度图景，要求独立审计、透明文档以及对被不公正惩罚的家庭提供具体且可及的救济，已成为当务之急。
同理心的法律价值：权利与国际条约
将家庭的组建或解体委托给机器，与国际人权架构正面冲突。联合国《儿童替代照料指南》（2009年）确立了明确的范围：每一项决定都必须严格逐案作出，并完全基于儿童的最大利益。这一过程要求坚实的法律保障、严格的定性评估，以及由高度合格专业人员组成的多学科团队的直接参与。这些国际标准实际上使得以冰冷的算法评分作为自主或半自主决策依据变得不可能且不合法。
联合国《儿童权利公约》进一步强化了这一范式。在收养背景下，儿童的最大利益不能被降格为众多待计算变量之一：它是首要且决定性的标准，必须尽可能包括儿童本人的积极参与和意见倾听。寻找家庭的未成年人不能也不应被简化为匹配软件的单纯“输出”，而应被视为一个权利主体，拥有不可复制的经历和自己的意愿。
欧洲委员会最近通过2024年《人工智能框架公约》——该领域首个具有约束力的国际条约——在法律上锁定了人工智能与基本权利之间的互动。该文件要求人工智能的使用尊重人的尊严和自主权，保障平等和非歧视，并规定人权影响评估以及系统全生命周期内的严格预防措施。规范性信息明确无误：一个负责评估育儿能力的系统绝不能作为不可解释的黑箱运作。
最后的发言权
当代讨论必须实现成熟度的飞跃。政策制定者和社会工作者必须提出的核心问题不是科幻式且虚幻的“人工智能能预测我们是否会成为好父母吗？”，而是一系列务实和系统性的问题：算法正在使用哪些具体信号来做出决定，谁将这些信号标记为风险指标，公民通过哪些渠道可以质疑机器生成的裁决？低收入、社会救助记录中的过往、残疾状况或复杂的家庭经历，不是也永远不会是能够衡量爱、照料倾向或真正养育和教育孩子能力的工具；然而，如果人工智能模型是在已被系统性不平等和不公正深刻标记的历史数据上训练的，这些因素就可能变成无情的风险代理变量。
算法可以出色地筛选官僚档案，可以建议某 territorial 资源或设想潜在匹配，但它不具备道德、法律或认知上的权威来决定一个家庭的内在价值。当涉及一个脆弱儿童的生命、未来和情感稳定时，最后的发言权必须始终且不可剥夺地属于有血有肉的人——负责任的专业人士，能够透明地解释自己的推理，能够倾听未表达的需求，并有义务在伦理和法律上为自己的选择承担个人责任。
参考文献与来源
- Does an AI tool help boost adoptions? Key takeaways from an AP Investigation — Associated Press, 2023
- Inspired by online dating, AI tool for adoption matchmaking falls short for vulnerable foster kids — Associated Press, 2023
- A Human-Centered Review of Algorithms used within the U.S. Child Welfare System — CHI 2020
- A case study of algorithm-assisted decision making in child welfare — PMLR, 2018
- Using machine learning to predict future foster care admission — PMC, 2025
- Data and Automation in Child Welfare — Georgetown Law, Privacy & Technology Center
- Guidelines for the Alternative Care of Children — 联合国, 2009
- Convention on the Rights of the Child — 联合国
- The Framework Convention on Artificial Intelligence — 欧洲委员会, 2024
本文由La Bussola dell’IA编辑部撰写