Adoptions et algorithmes : pourquoi l'intelligence artificielle ne peut pas mesurer une famille

L’utilisation de l’Intelligence Artificielle dans les systèmes de protection de l’enfance et d’adoption promet de révolutionner le secteur grâce à des apparieme

L’intelligence artificielle possède une capacité extraordinaire à ordonner de vastes bases de données, à identifier des ressources cachées au sein des systèmes bureaucratiques et à proposer des appariements fondés sur des schémas récurrents, mais elle se heurte à une limite infranchissable : elle ne dispose ni des outils ontologiques ni des outils éthiques pour décider si une personne est « apte » à occuper le rôle de parent. L’évaluation psychologique, émotionnelle et financière d’un candidat à la parentalité ou d’une famille d’accueil n’est pas un simple problème d’optimisation mathématique. Il s’agit d’une enquête qui touche à des droits fondamentaux, à des inégalités socio-économiques, à des conditions de pauvreté, à des handicaps, à l’origine ethnique et, surtout, à l’avenir et à la sécurité d’un enfant, rendant indispensable que cette décision reste humaine, multidisciplinaire, profondément motivée et juridiquement contestable.

L’illusion du matchmaking : le cas Family-Match

La distance entre la promesse technologique et la pratique extrêmement délicate de l’adoption apparaît avec une clarté désarmante dans l’enquête menée par l’Associated Press sur l’algorithme Family-Match. Cet outil computationnel, explicitement inspiré des mécanismes des applications de rencontres en ligne, avait été conçu dans l’intention d’attribuer un score de « compatibilité relationnelle » entre des enfants inscrits dans le système de placement et des candidats à la parentalité. L’enquête a toutefois révélé des résultats pratiques extrêmement limités dans les États de Virginie et de Géorgie, mettant au jour des cas de signalements à des familles qui n’étaient nullement intéressées ou préparées à ce type d’appariement, et soulevant de profonds doutes quant à l’efficacité déclarée par les promoteurs du logiciel.

L’échec de cette approche ne se limite pas à une faible précision statistique, mais s’enracine dans la nature même des données traitées. L’algorithme Family-Match engloutissait et traitait plus de 250 variables sensibles pour calculer ses indices de compatibilité. Parmi ces paramètres figuraient des informations extrêmement intimes et potentiellement stigmatisantes, comme des histoires d’abus sexuels subis dans le passé, des antécédents pénaux et l’identité LGBTQIA+ des mineurs concernés. Le problème central, dans ce scénario, n’est pas uniquement la qualité ou l’efficacité de l’appariement proposé, mais la collecte massive et l’utilisation non supervisée de données extrêmement intimes au sein d’une architecture logicielle opaque et inaccessible à l’examen public.

Surveillance numérique, biais et le crime de la pauvreté

L’introduction de l’intelligence artificielle dans le système du child welfare (protection de l’enfance) américain a suivi jusqu’ici une trajectoire précise et préoccupante. Une revue académique fondée sur l’analyse de 50 publications concernant les systèmes computationnels dans la protection de l’enfance démontre que la grande majorité des implémentations concerne des modèles prédictifs orientés exclusivement vers le calcul du risque. Des fonctions vitales comme le véritable matching relationnel, l’intégration des perspectives humaines des travailleurs sociaux et l’analyse qualitative des notes de cas restent, au contraire, dramatiquement peu intégrées ou totalement ignorées par les logiciels.

Cette focalisation sur le « risque » génère un court-circuit algorithmique qui pénalise les franges les plus vulnérables de la société. Une étude approfondie sur l’Allegheny Family Screening Tool, un modèle prédictif américain bien connu, révèle un biais structurel sans équivoque : les familles pauvres ou appartenant à des minorités ethniques interagissent par nécessité dans une mesure bien plus grande avec les services publics, accumulant ainsi une quantité disproportionnée de données administratives à leur charge. L’algorithme, en lisant cette masse de données et en utilisant les enquêtes passées comme prédicteurs pour l’avenir, finit par attribuer à ces familles des scores de risque systématiquement plus élevés, amplifiant un cercle vicieux discriminatoire. Le point focal est que la pauvreté et la précarité financière n’équivalent pas à la négligence parentale, mais qu’au sein des jeux de données publics elles finissent immanquablement par apparaître comme un gigantesque facteur de risque.

Pour atténuer cette dérive, les chercheurs soulignent la nécessité de distinguer nettement deux finalités d’usage : employer l’apprentissage automatique pour identifier et offrir des ressources préventives aux familles en difficulté est profondément différent de l’utiliser pour sélectionner quelles familles enquêter ou de quels foyers retirer les enfants. La seconde hypothèse, en raison de ses conséquences dévastatrices, exige un standard de preuve incommensurablement plus élevé que la première. Le Center on Privacy & Technology de la Georgetown Law synthétise parfaitement ces critiques, en dénonçant le faible niveau de preuve d’efficacité des systèmes actuels, une accountability (responsabilité) quasi inexistante, les asymétries de pouvoir entre entités publiques et fournisseurs privés de logiciels, et l’extrême dangerosité de l’usage de proxys socio-économiques pour évaluer la parentalité. Face à ce tableau institutionnel, il devient impératif d’exiger des audits indépendants, une documentation transparente et des recours concrets et accessibles pour les familles injustement pénalisées.

La valeur juridique de l’empathie : droits et traités internationaux

Déléguer à une machine la formation ou la désagrégation d’une famille se heurte frontalement à l’architecture des droits humains internationaux. Les Lignes directrices des Nations unies sur la prise en charge alternative des enfants (2009) établissent un périmètre clair : chaque décision doit être prise rigoureusement au cas par cas et se fonder exclusivement sur l’intérêt supérieur de l’enfant. Ce processus exige de solides garanties juridiques, une évaluation rigoureuse et qualitative, et l’intervention directe d’équipes multidisciplinaires composées de professionnels hautement qualifiés. Ces critères internationaux rendent de facto impossible et illégitime de justifier un froid score algorithmique comme base d’une décision autonome ou semi-autonome.

La Convention des Nations unies relative aux droits de l’enfant renforce encore ce paradigme. Dans le contexte de l’adoption, l’intérêt supérieur de l’enfant ne peut être relégué au rang de l’une des nombreuses variables à calculer : c’est le critère primaire et déterminant, qui doit inclure, partout où cela est possible, la participation active et l’écoute de la voix de l’enfant lui-même. L’enfant en quête d’une famille ne peut et ne doit être réduit à un simple « output » d’un logiciel de matching, mais doit être traité comme une personne porteuse de droits, d’une histoire unique et d’une volonté propre.

Le Conseil de l’Europe est récemment intervenu pour verrouiller juridiquement l’interaction entre l’IA et les droits fondamentaux avec la Convention-cadre sur l’intelligence artificielle de 2024, le premier traité international contraignant en la matière. Le document exige que l’emploi de l’IA respecte la dignité et l’autonomie humaines, garantisse l’égalité et la non-discrimination, et impose des évaluations d’impact sur les droits humains ainsi que des mesures de prévention rigides tout au long du cycle de vie du système. Le message normatif est sans équivoque : un système destiné à l’évaluation des capacités parentales ne peut en aucun cas fonctionner comme une boîte noire inexplicable.

Le dernier mot

Le débat contemporain doit franchir un cap de maturité. La question centrale que les décideurs politiques et les travailleurs sociaux doivent se poser n’est pas la question science-fictionnelle et illusoire « l’intelligence artificielle peut-elle prédire si nous serons de bons parents ? », mais bien une série de questions pragmatiques et systémiques : quels signaux spécifiques l’algorithme utilise-t-il pour décider, qui a étiqueté ces signaux comme indicateurs de risque et par quels canaux un citoyen peut-il contester un verdict généré par la machine ? Un faible revenu, un passé dans les registres de l’aide sociale, une situation de handicap ou une histoire familiale complexe ne sont et ne seront jamais des instruments capables de mesurer l’amour, l’aptitude au soin ou la réelle capacité d’élever et d’éduquer un enfant ; ils peuvent toutefois se transformer en inexorables proxys de risque si le modèle d’intelligence artificielle est entraîné sur des données historiques déjà profondément marquées par des inégalités et des injustices systémiques.

Un algorithme peut exceller à passer au crible des dossiers bureaucratiques, peut suggérer une ressource territoriale ou envisager une rencontre potentielle, mais il n’a ni l’autorité morale, ni juridique, ni cognitive pour décider de la valeur intrinsèque d’une famille. Lorsque sont en jeu la vie, l’avenir et la stabilité émotionnelle d’un enfant vulnérable, le dernier mot doit toujours et impérativement appartenir à des personnes en chair et en os, des professionnels responsables, capables d’expliquer de manière transparente leur raisonnement, aptes à écouter les besoins inexprimés et tenus de répondre personnellement, tant éthiquement que juridiquement, de leurs choix.

Références bibliographiques et sources

• Does an AI tool help boost adoptions? Key takeaways from an AP Investigation — Associated Press, 2023
• Inspired by online dating, AI tool for adoption matchmaking falls short for vulnerable foster kids — Associated Press, 2023
• A Human-Centered Review of Algorithms used within the U.S. Child Welfare System — CHI 2020
• A case study of algorithm-assisted decision making in child welfare — PMLR, 2018
• Using machine learning to predict future foster care admission — PMC, 2025
• Data and Automation in Child Welfare — Georgetown Law, Privacy & Technology Center
• Guidelines for the Alternative Care of Children — Nations unies, 2009
• Convention on the Rights of the Child — Nations unies
• The Framework Convention on Artificial Intelligence — Conseil de l’Europe, 2024

Article réalisé par la Rédaction de La Bussola dell’IA