Adopciones y Algoritmos: Por qué la Inteligencia Artificial no Puede Medir una Familia
El uso de la Inteligencia Artificial en los sistemas de protección infantil y adopción promete revolucionar el sector mediante emparejamientos algorítmicos, per
La inteligencia artificial posee una extraordinaria capacidad para ordenar vastas bases de datos, identificar recursos ocultos dentro de los sistemas burocráticos y proponer emparejamientos basados en patrones recurrentes, pero se enfrenta a un límite infranqueable: no tiene las herramientas ontológicas ni éticas para decidir si una persona es "apta" para desempeñar el papel de progenitor. La evaluación psicológica, emocional y financiera de un aspirante a progenitor o de una familia de acogida no es un simple problema de optimización matemática. Se trata de una investigación que toca derechos fundamentales, desigualdades socioeconómicas, condiciones de pobreza, discapacidad, origen étnico y, sobre todo, el futuro y la integridad de un niño, lo que hace imprescindible que dicha decisión siga siendo humana, multidisciplinaria, profundamente motivada y legalmente impugnable.
La ilusión del matchmaking: el caso Family-Match
La distancia entre la promesa tecnológica y la delicadísima práctica de la adopción emerge con claridad desarmante en la investigación realizada por Associated Press sobre el algoritmo Family-Match. Esta herramienta computacional, explícitamente inspirada en las mecánicas de las aplicaciones de online dating, había sido diseñada con la intención de asignar una puntuación de "compatibilidad relacional" entre niños insertados en el sistema de acogida y aspirantes a progenitores. La investigación ha revelado, sin embargo, resultados prácticos extremadamente limitados en los estados de Virginia y Georgia, sacando a la luz casos de derivaciones a familias que no estaban mínimamente interesadas o preparadas para ese tipo de emparejamiento, y suscitando dudas profundas sobre la eficacia declarada por los promotores del software.
El fracaso de este enfoque no se limita a una escasa precisión estadística, sino que hunde sus raíces en la naturaleza misma de los datos elaborados. El algoritmo Family-Match fagocitaba y procesaba más de 250 variables sensibles para calcular sus índices de compatibilidad. Entre estos parámetros figuraban informaciones intimísimas y potencialmente estigmatizantes, como historias de abusos sexuales sufridos en el pasado, antecedentes penales y la identidad LGBTQIA+ de los menores implicados. El problema central, en este escenario, no es únicamente la bondad o la eficiencia del emparejamiento propuesto, sino la recogida masiva y la utilización no supervisada de datos extremadamente íntimos dentro de una arquitectura de software opaca e inaccesible al escrutinio público.
Vigilancia digital, sesgos y el crimen de la pobreza
La introducción de la inteligencia artificial en el sistema del child welfare (protección de menores) estadounidense ha seguido hasta ahora una trayectoria precisa y preocupante. Una revisión académica basada en el análisis de 50 publicaciones relativas a los sistemas computacionales en la protección de menores demuestra que la gran mayoría de las implementaciones se refiere a modelos predictivos orientados exclusivamente al cálculo del riesgo. Funciones vitales como el verdadero matching relacional, la integración de las perspectivas humanas de los trabajadores sociales y el análisis cualitativo de las notas de caso permanecen, por el contrario, dramáticamente poco integradas o completamente ignoradas por los software.
Esta focalización en el "riesgo" genera un cortocircuito algorítmico que penaliza a los sectores más vulnerables de la sociedad. Un estudio en profundidad sobre el Allegheny Family Screening Tool, un conocido modelo predictivo estadounidense, revela un sesgo estructural inequívoco: las familias pobres o pertenecientes a minorías étnicas interactúan por necesidad en medida mucho mayor con los servicios públicos, acumulando así una cantidad desproporcionada de datos administrativos a su cargo. El algoritmo, al leer esta mole de datos y utilizar las investigaciones pasadas como predictores para el futuro, termina por asignar a estas familias puntuaciones de riesgo sistemáticamente más altas, amplificando un círculo vicioso discriminatorio. El punto focal es que la pobreza y la indigencia financiera no equivalen a la negligencia parental, pero dentro de los conjuntos de datos públicos terminan indefectiblemente por parecer un gigantesco factor de riesgo.
Para mitigar esta deriva, los investigadores subrayan la necesidad de distinguir netamente entre dos finalidades de uso: emplear el machine learning para identificar y ofrecer recursos preventivos a las familias en dificultad es profundamente distinto de usarlo para seleccionar qué familias investigar o de qué hogares separar a los niños. La segunda hipótesis, por sus consecuencias devastadoras, requiere un estándar probatorio inconmensurablemente más elevado respecto a la primera. El Center on Privacy & Technology de Georgetown Law sintetiza perfectamente estas criticidades, denunciando la escasa evidencia de eficacia de los sistemas actuales, una accountability (responsabilidad) casi inexistente, las asimetrías de poder entre entes públicos y proveedores privados de software, y la extrema peligrosidad en el uso de proxies socioeconómicos para evaluar la parentalidad. Ante este panorama institucional, se vuelve imperativo exigir auditorías independientes, documentación transparente y remedios concretos y accesibles para las familias injustamente penalizadas.
El valor legal de la empatía: derechos y tratados internacionales
Delegar a una máquina la formación o la desintegración de una familia choca frontalmente con la arquitectura de los derechos humanos internacionales. Las Directrices de las Naciones Unidas sobre el acogimiento alternativo de los menores (2009) establecen un perímetro claro: toda decisión debe tomarse rigurosamente caso por caso y fundamentarse exclusivamente en el interés superior del niño. Este proceso exige sólidas tutelas legales, una evaluación rigurosa y cualitativa, y la intervención directa de equipos multidisciplinarios compuestos por profesionales altamente cualificados. Tales criterios internacionales hacen de hecho imposible e ilegítimo justificar una fría puntuación algorítmica como base para una decisión autónoma o semiautónoma.
La Convención de la ONU sobre los Derechos del Niño refuerza ulteriormente este paradigma. En el contexto de la adopción, el interés superior del menor no es degradable a una de las tantas variables a calcular: es el criterio primario y determinante, que debe incluir, siempre que sea posible, la participación activa y la escucha de la voz del propio niño. El menor en busca de familia no puede ni debe ser reducido a un mero "output" de un software de matching, sino que debe ser tratado como una persona portadora de derechos, de una historia irrepetible y de una voluntad propia.
A blindar jurídicamente la interacción entre IA y derechos fundamentales ha intervenido recientemente el Consejo de Europa con la Framework Convention on Artificial Intelligence de 2024, el primer tratado internacional vinculante en la materia. El documento exige que el empleo de la IA respete la dignidad y la autonomía humana, garantice la igualdad y la no discriminación, e impone evaluaciones de impacto sobre los derechos humanos y rígidas medidas de prevención a lo largo de todo el ciclo de vida del sistema. El mensaje normativo es inequívoco: un sistema destinado a la evaluación de las capacidades parentales no puede en modo alguno operar como una black box inexplicable.
La última palabra
El debate contemporáneo debe dar un salto de madurez. La pregunta central que decisores políticos y operadores sociales deben plantearse no es la fantascientifica e ilusoria "¿puede la inteligencia artificial prever si seremos buenos padres?", sino una serie de cuestiones pragmáticas y de sistema: ¿qué señales específicas está usando el algoritmo para decidir, quién ha etiquetado estas señales como indicadores de riesgo y a través de qué canales puede un ciudadano impugnar un veredicto generado por la máquina? Una renta baja, un pasado en los registros de la asistencia social, una condición de discapacidad o una historia familiar compleja no son ni serán nunca instrumentos capaces de medir el amor, la actitud para el cuidado o la real capacidad de criar y educar a un niño; pueden, sin embargo, transformarse en inexorables proxies de riesgo si el modelo de inteligencia artificial se entrena con datos históricos ya profundamente marcados por desigualdades e injusticias sistémicas.
Un algoritmo puede sobresalir en el cribado de expedientes burocráticos, puede sugerir un recurso territorial o hipotetizar un encuentro potencial, pero no tiene la autoridad moral, jurídica ni cognitiva para decidir el valor intrínseco de una familia. Cuando están en juego la vida, el futuro y la estabilidad emocional de un niño vulnerable, la última palabra debe pertenecer siempre e inexcusablemente a personas de carne y hueso, profesionales responsables, capaces de explicar de modo transparente su propio razonamiento, capaces de escuchar las necesidades no expresadas y obligados a responder personalmente, tanto ética como legalmente, de sus propias elecciones.
Referencias bibliográficas y fuentes
- Does an AI tool help boost adoptions? Key takeaways from an AP Investigation — Associated Press, 2023
- Inspired by online dating, AI tool for adoption matchmaking falls short for vulnerable foster kids — Associated Press, 2023
- A Human-Centered Review of Algorithms used within the U.S. Child Welfare System — CHI 2020
- A case study of algorithm-assisted decision making in child welfare — PMLR, 2018
- Using machine learning to predict future foster care admission — PMC, 2025
- Data and Automation in Child Welfare — Georgetown Law, Privacy & Technology Center
- Guidelines for the Alternative Care of Children — Naciones Unidas, 2009
- Convention on the Rights of the Child — Naciones Unidas
- The Framework Convention on Artificial Intelligence — Consejo de Europa, 2024
Artículo a cargo de la Redacción de La Bussola dell’IA