Adoptionen und Algorithmen: Warum Künstliche Intelligenz eine Familie nicht messen kann

Die Nutzung Künstlicher Intelligenz in Systemen des Kinderschutzes und der Adoption verspricht, den Sektor durch algorithmische Zuordnungen zu revolutionieren,

Künstliche Intelligenz besitzt eine außergewöhnliche Fähigkeit, umfangreiche Datenbanken zu ordnen, verborgene Ressourcen innerhalb bürokratischer Systeme zu identifizieren und auf wiederkehrenden Mustern basierende Zuordnungen vorzuschlagen, doch sie stößt an eine unüberwindbare Grenze: Sie verfügt weder über die ontologischen noch über die ethischen Instrumente, um zu entscheiden, ob eine Person „geeignet" ist, die Rolle eines Elternteils zu übernehmen. Die psychologische, emotionale und finanzielle Bewertung eines aspirierenden Elternteils oder einer Pflegefamilie ist kein einfaches Problem mathematischer Optimierung. Es handelt sich um eine Untersuchung, die Grundrechte, sozioökonomische Ungleichheiten, Armutsverhältnisse, Behinderungen, ethnische Herkunft und vor allem die Zukunft und die Unversehrtheit eines Kindes berührt, was es unerlässlich macht, dass diese Entscheidung menschlich, multidisziplinär, zutiefst begründet und rechtlich anfechtbar bleibt.

Die Illusion des Matchmakings: Der Fall Family-Match

Die Kluft zwischen dem technologischen Versprechen und der äußerst heiklen Praxis der Adoption tritt mit ernüchternder Klarheit in der von der Associated Press durchgeführten Untersuchung über den Algorithmus Family-Match zutage. Dieses computergestützte Instrument, das ausdrücklich von den Mechanismen von Online-Dating-Anwendungen inspiriert war, wurde mit der Absicht konzipiert, eine „Beziehungskompatibilitäts"-Bewertung zwischen Kindern im Pflegesystem und aspirierenden Eltern zu vergeben. Die Recherche hat jedoch äußerst begrenzte praktische Ergebnisse in den Bundesstaaten Virginia und Georgia offengelegt und Fälle von Meldungen an Familien ans Licht gebracht, die keinerlei Interesse an oder Vorbereitung auf diese Art der Zuordnung hatten, und tiefgreifende Zweifel an der von den Förderern der Software erklärten Wirksamkeit aufgeworfen.

Das Scheitern dieses Ansatzes beschränkt sich nicht auf eine geringe statistische Genauigkeit, sondern wurzelt in der Natur der verarbeiteten Daten selbst. Der Algorithmus Family-Match verschlang und verarbeitete über 250 sensible Variablen, um seine Kompatibilitätsindizes zu berechnen. Unter diesen Parametern befanden sich höchst intime und potenziell stigmatisierende Informationen wie Geschichten erlittenen sexuellen Missbrauchs in der Vergangenheit, Vorstrafen und die LGBTQIA+-Identität der betroffenen Minderjährigen. Das zentrale Problem in diesem Szenario ist nicht ausschließlich die Güte oder Effizienz der vorgeschlagenen Zuordnung, sondern die massenhafte Erhebung und die nicht überwachte Nutzung äußerst intimer Daten innerhalb einer undurchsichtigen Softwarearchitektur, die der öffentlichen Prüfung nicht zugänglich ist.

Digitale Überwachung, Bias und das Verbrechen der Armut

Die Einführung künstlicher Intelligenz im Child-Welfare-System (Kinderschutz) der USA hat bisher eine präzise und besorgniserregende Entwicklung verfolgt. Eine akademische Übersichtsarbeit, die auf der Analyse von 50 Publikationen zu computergestützten Systemen im Kinderschutz basiert, zeigt, dass die überwiegende Mehrheit der Implementierungen prädiktive Modelle betrifft, die ausschließlich auf die Risikoberechnung ausgerichtet sind. Lebenswichtige Funktionen wie das eigentliche relationale Matching, die Integration menschlicher Perspektiven der Sozialarbeiter und die qualitative Analyse von Fallnotizen bleiben hingegen dramatisch wenig integriert oder werden von den Softwarelösungen gänzlich ignoriert.

Diese Fokussierung auf das „Risiko" erzeugt einen algorithmischen Kurzschluss, der die vulnerabelsten Schichten der Gesellschaft benachteiligt. Eine eingehende Studie über das Allegheny Family Screening Tool, ein bekanntes US-amerikanisches Prädiktionsmodell, offenbart einen unmissverständlichen strukturellen Bias: Arme Familien oder Familien, die ethnischen Minderheiten angehören, interagieren aus Notwendigkeit in weit größerem Maße mit öffentlichen Diensten und sammeln so eine unverhältnismäßige Menge administrativer Daten über sich an. Der Algorithmus, der diese Datenmenge liest und vergangene Untersuchungen als Prädiktoren für die Zukunft verwendet, weist diesen Familien letztlich systematisch höhere Risikowerte zu und verstärkt einen diskriminierenden Teufelskreis. Der Brennpunkt ist, dass Armut und finanzielle Not nicht mit elterlicher Vernachlässigung gleichzusetzen sind, aber innerhalb öffentlicher Datensätze unweigerlich als gigantischer Risikofaktor erscheinen.

Um diese Entwicklung abzumildern, betonen die Forscher die Notwendigkeit, klar zwischen zwei Verwendungszwecken zu unterscheiden: Machine Learning einzusetzen, um Ressourcen zur Prävention für Familien in Schwierigkeiten zu identifizieren und anzubieten, ist grundlegend verschieden davon, es zu verwenden, um auszuwählen, welche Familien untersucht oder aus welchen Haushalten Kinder herausgenommen werden sollen. Die zweite Hypothese erfordert aufgrund ihrer verheerenden Konsequenzen einen unermesslich höheren Beweisstandard als die erste. Das Center on Privacy & Technology der Georgetown Law fasst diese Kritikpunkte treffend zusammen und beklagt die geringe Evidenz für die Wirksamkeit der aktuellen Systeme, eine nahezu nicht existierende Accountability (Rechenschaftspflicht), die Machtasymmetrien zwischen öffentlichen Stellen und privaten Softwareanbietern sowie die extreme Gefährlichkeit der Verwendung sozioökonomischer Proxy-Variablen zur Bewertung der Elternschaft. Angesichts dieses institutionellen Rahmens wird es unerlässlich, unabhängige Audits, transparente Dokumentation und konkrete, zugängliche Rechtsbehelfe für ungerechtfertigt benachteiligte Familien zu fordern.

Der rechtliche Wert der Empathie: Rechte und internationale Verträge

Einer Maschine die Bildung oder die Auflösung einer Familie zu übertragen, kollidiert frontal mit der Architektur der internationalen Menschenrechte. Die Leitlinien der Vereinten Nationen für die alternative Betreuung von Kindern (2009) legen einen klaren Rahmen fest: Jede Entscheidung muss streng im Einzelfall getroffen werden und sich ausschließlich auf das Wohl des Kindes stützen. Dieser Prozess erfordert solide rechtliche Schutzmaßnahmen, eine rigorose und qualitative Bewertung sowie die direkte Mitwirkung multidisziplinärer Teams, die aus hochqualifizierten Fachkräften bestehen. Diese internationalen Kriterien machen es de facto unmöglich und illegitim, eine kalte algorithmische Bewertung als Grundlage für eine autonome oder halbautonome Entscheidung zu rechtfertigen.

Die UN-Kinderrechtskonvention stärkt dieses Paradigma zusätzlich. Im Kontext der Adoption kann das Wohl des Kindes nicht zu einer von vielen zu berechnenden Variablen herabgestuft werden: Es ist das primäre und entscheidende Kriterium, das, wo immer möglich, die aktive Beteiligung und das Anhören der Stimme des Kindes selbst einschließen muss. Das Kind, das eine Familie sucht, kann und darf nicht auf einen bloßen „Output" einer Matching-Software reduziert werden, sondern muss als eine Person behandelt werden, die Trägerin von Rechten, einer unwiederholbaren Geschichte und eines eigenen Willens ist.

Um die Interaktion zwischen KI und Grundrechten rechtlich abzusichern, ist kürzlich der Europarat mit der Framework Convention on Artificial Intelligence von 2024 eingetreten, dem ersten verbindlichen internationalen Vertrag in diesem Bereich. Das Dokument verlangt, dass der Einsatz von KI die menschliche Würde und Autonomie respektiert, Gleichheit und Nichtdiskriminierung gewährleistet und Menschenrechtsfolgenabschätzungen sowie strenge Präventionsmaßnahmen über den gesamten Lebenszyklus des Systems vorschreibt. Die normative Botschaft ist unmissverständlich: Ein System, das zur Bewertung elterlicher Fähigkeiten bestimmt ist, kann in keiner Weise als eine unerklärliche Black Box funktionieren.

Das letzte Wort

Die zeitgenössische Debatte muss einen Reifeschritt vollziehen. Die zentrale Frage, die politische Entscheidungsträger und Sozialarbeiter sich stellen müssen, ist nicht die science-fiction-hafte und illusorische „Kann künstliche Intelligenz vorhersagen, ob wir gute Eltern sein werden?", sondern eine Reihe pragmatischer und systemischer Fragen: Welche spezifischen Signale verwendet der Algorithmus für seine Entscheidung, wer hat diese Signale als Risikoindikatoren eingestuft und über welche Kanäle kann ein Bürger ein von der Maschine generiertes Urteil anfechten? Ein niedriges Einkommen, eine Vergangenheit in den Registern der Sozialhilfe, eine Behinderung oder eine komplexe Familiengeschichte sind und werden niemals Instrumente sein, die in der Lage sind, Liebe, die Eignung zur Fürsorge oder die tatsächliche Fähigkeit, ein Kind großzuziehen und zu erziehen, zu messen; sie können sich jedoch in unerbittliche Risiko-Proxy-Variablen verwandeln, wenn das KI-Modell auf historischen Daten trainiert wird, die bereits tief von systemischen Ungleichheiten und Ungerechtigkeiten geprägt sind.

Ein Algorithmus kann darin brillieren, bürokratische Akten zu durchforsten, er kann eine territoriale Ressource vorschlagen oder eine potenzielle Begegnung hypothetisieren, aber er hat weder die moralische, rechtliche noch kognitive Autorität, den intrinsischen Wert einer Familie zu bestimmen. Wenn das Leben, die Zukunft und die emotionale Stabilität eines vulnerablen Kindes auf dem Spiel stehen, muss das letzte Wort immer und unabdingbar Menschen aus Fleisch und Blut gehören, verantwortungsvollen Fachkräften, die in der Lage sind, ihre Argumentation transparent zu erklären, die fähig sind, unausgesprochene Bedürfnisse zu hören, und die verpflichtet sind, persönlich – sowohl ethisch als auch rechtlich – für ihre Entscheidungen Rechenschaft abzulegen.

Bibliografische Referenzen und Quellen

• Does an AI tool help boost adoptions? Key takeaways from an AP Investigation — Associated Press, 2023
• Inspired by online dating, AI tool for adoption matchmaking falls short for vulnerable foster kids — Associated Press, 2023
• A Human-Centered Review of Algorithms used within the U.S. Child Welfare System — CHI 2020
• A case study of algorithm-assisted decision making in child welfare — PMLR, 2018
• Using machine learning to predict future foster care admission — PMC, 2025
• Data and Automation in Child Welfare — Georgetown Law, Privacy & Technology Center
• Guidelines for the Alternative Care of Children — Vereinte Nationen, 2009
• Convention on the Rights of the Child — Vereinte Nationen
• The Framework Convention on Artificial Intelligence — Europarat, 2024

Artikel von der Redaktion von La Bussola dell’IA