Algorithmen und Geschlechterdiskriminierung: Wenn KI die Kluft vergrößert (Kritische Punkte und Strategien)

KI ist nicht neutral: Sie lernt aus unseren historischen Fehlern. Eine aktuelle UNESCO-Studie zeigt, dass 88 % der Outputs generativer Modelle rückschrittliche

In der Informatikwelt gibt es ein Sprichwort: „Garbage In, Garbage Out“ (Müll rein, Müll raus). Wenn wir eine Künstliche Intelligenz mit Jahrhunderten von Literatur, Gesetzen und historischen Daten füttern, die vom Patriarchat und Geschlechterungleichheiten durchdrungen sind, können wir nicht erwarten, dass die Maschine Fairness zurückgibt. Sie wird uns eine verstärkte, beschleunigte und automatisierte Version unserer schlimmsten Vorurteile zurückgeben.

Heute entscheidet KI, wer eingestellt wird, wer einen Kredit erhält und wie Frauen in synthetischen Medien dargestellt werden. Doch aktuelle Studien der UNESCO und eklatante Fälle wie der von Amazon zeigen, dass wir eine Regression der Bürgerrechte riskieren, die als technologischer Fortschritt getarnt ist. Wenn ein Algorithmus einen Lebenslauf aussortiert, weil er das Wort „weiblich“ enthält, oder wenn ein LLM (Large Language Model) systematisch das Wort „Arzt“ mit dem Mann und „Krankenschwester“ mit der Frau assoziiert, stehen wir nicht vor einem „Fehler“. Wir stehen vor einem strukturellen Problem.

In diesem Artikel für La Bussola dell’IA analysieren wir die Wurzeln des Gender Bias, die alarmierendsten Fallstudien (vom Recruiting bis zur Predictive Justice) und vor allem die technischen und regulatorischen Strategien, um eine inklusive KI zu bauen. Denn Technologie ist nicht neutral, aber sie kann korrigiert werden.

1. Die Wurzel des Problems: Der verzerrte Spiegel der Daten

Um zu verstehen, warum KI diskriminiert, müssen wir in den „Motor“ schauen. KI hat keine Meinungen, sie hat Daten.

Verzerrte Datensätze und der „Teufelskreis“

Wie die Analyse von Mondo Internazionale (mondointernazionale.org) perfekt erklärt, entsteht die Verzerrung fast immer in der Trainingsphase. Wenn wir ein Gesichtserkennungssystem hauptsächlich mit Gesichtern weißer Männer trainieren, „lernt“ das System, dass dies der Standard für ein menschliches Gesicht ist. Dies schafft einen Teufelskreis der Daten (auch zitiert vom Forbes Tech Council – forbes.com):

  1. Die Gesellschaft hat historisch Frauen diskriminiert (z.B. weniger Frauen in CEO-Positionen).
  2. Historische Daten spiegeln diese Realität wider (wenige Lebensläufe von Frauen als CEOs im Datensatz).
  3. Der Algorithmus lernt, dass „Frau“ nicht mit „CEO“ korreliert.
  4. Der Algorithmus sortiert Frauen für CEO-Positionen aus und schafft so neue diskriminierende Daten, die zukünftige Modelle speisen werden.

Verzerrung der Repräsentation in Teams

Dann gibt es ein menschliches Problem: Wer schreibt den Code? Die Tech-Branche ist noch immer von Männern dominiert. Wenn im Entwicklungsteam keine Frauen sind, ist es wahrscheinlich, dass niemand Fragen stellt, wie der Algorithmus sensible Variablen oder Geschlechter-Nuancen handhaben wird. Vielfalt im Entwicklungsteam ist nicht „politisch korrekt“, sondern eine Qualitätsanforderung für Software.

Um die technischen Mechanismen zu vertiefen, wie sich Vorurteile in den Code einschleichen, verweisen wir auf unseren grundlegenden Artikel zu Algorithmischen Verzerrungen und unsichtbarer Diskriminierung.

2. Der Fall Amazon und Recruiting: Der sexistische Algorithmus

Eines der am häufigsten zitierten Beispiele, analysiert von LavoroDirittiEuropa (lavorodirittieuropa.it), ist das experimentelle Recruiting-Tool von Amazon (später zurückgezogen).

„Bestraft, weil Kapitänin“

Amazon wollte die Lebenslaufauswahl automatisieren. Die KI wurde mit den Lebensläufen trainiert, die das Unternehmen in den vorangegangenen 10 Jahren erhalten hatte (die meisten stammten von Männern). Ergebnis? Der Algorithmus begann, Lebensläufe zu bestrafen, die das Wort „women’s“ enthielten (z.B. „Kapitänin des Frauenschachclubs“), und stufte Bewerberinnen von Frauenuniversitäten herab. Der Algorithmus hatte eine einfache und brutale Regel abgeleitet: Mann = Einstellen; Frau = Aussortieren. Dieser Fall zeigt, dass es nicht reicht, das Geschlecht explizit aus dem Lebenslauf zu entfernen: Die KI findet Proxy-Variablen (korrelierte Variablen) wie Hobbys, Schreibstil oder Universität, um das Geschlecht abzuleiten und dennoch zu diskriminieren.

Sexistische Stellenanzeigen

Auch die Verteilung von Stellenanzeigen ist problematisch. Das CDT (cdt.ch) berichtet über Fälle, in denen Facebook-Algorithmen Anzeigen für technische Positionen (Ingenieure) fast ausschließlich Männern und Pflegepositionen (Krankenschwestern, Sekretärinnen) Frauen zeigten. Der Algorithmus optimierte für „wahrscheinliche Klicks“ basierend auf vergangenen Stereotypen und verhinderte so effektiv, dass Frauen von Karrieremöglichkeiten in MINT-Bereichen erfuhren.

Der Schutz der Arbeitnehmer vor diesen „Black Boxes“ hat Priorität. Entdecken Sie die rechtlichen Schutzmaßnahmen in unserem Fokus auf KI und Schutz der digitalen Arbeitnehmerrechte.

3. Generative KI: Regressive Stereotype in ChatGPT und Gemini

Mit dem Aufkommen generativer KI hat sich das Problem von der Ressourcenallokation (Arbeit/Geld) zur kulturellen Repräsentation verschoben.

Die schockierende UNESCO-Studie

Ein aktueller Bericht der UNESCO, zitiert von ScienceDirect (sciencedirect.com) und auf der offiziellen UNESCO-Website diskutiert (unesco.org), enthüllt alarmierende Daten. 88 % der von führenden LLMs (wie GPT-3.5 und 4) generierten Ausgaben enthalten regressive Geschlechterstereotype.

  • Wenn Sie bitten, eine Geschichte über einen „Arzt“ zu schreiben, verwendet die KI männliche Pronomen.
  • Wenn Sie nach einem „Flugbegleiter“ oder „Lehrer“ fragen, verwendet sie weibliche Pronomen.
  • Frauen werden häufiger mit Adjektiven beschrieben, die sich auf das Aussehen oder Emotionalität beziehen, Männer mit Adjektiven, die mit Kompetenz und Handeln verbunden sind.

Die Gefahr des „Spiegelsyndroms“

Das ist äußerst gravierend, weil diese Werkzeuge zum Schreiben von E-Mails, Zeitungsartikeln und Kinderbüchern verwendet werden. Die KI spiegelt nicht nur unsere sexistische Vergangenheit wider; sie projiziert sie in die Zukunft und normalisiert diese Verzerrungen für neue Generationen, die von Kindheit an mit Chatbots interagieren werden.

Sprache formt die Realität. Um zu verstehen, wie synthetische Worte unsere Wahrnehmung beeinflussen, lesen Sie KI und Sprache: Synthetische Worte und Kreativität.

4. Predictive Justice: Wenn die Verzerrung zum Urteil wird

Wenn einen Job zu verlieren schwerwiegend ist, dann ist der Verlust der Freiheit tragisch.

Der Fall COMPAS und Frauen

Women at the Table (womenatthetable.net) hebt hervor, wie Systeme der Predictive Justice (zur Bewertung des Rückfallrisikos) bei Männern und Frauen unterschiedlich falsch liegen. Im Fall der Software COMPAS wurde eine unverhältnismäßige Fehlerrate (Disparate Impact) festgestellt. Darüber hinaus zeigen Studien in Brasilien und Großbritannien, wie Algorithmen dazu neigen, Frauen basierend auf emotionalen Stereotypen („instabil“, „hysterisch“) zu bewerten, was zu strengeren Strafen oder dem Sorgerechtsentzug führt, während für Männer eher kriminalitätsbezogene Kriterien verwendet werden.

Gerechtigkeit kann nicht einer fehlerhaften Statistik delegiert werden. Wir vertiefen dieses ethische Thema in Algorithmische Verzerrungen und Gerechtigkeit: Wer richtet den Algorithmus?.

5. Interventionsstrategien: Wie man den Algorithmus „heilt“

Die gute Nachricht ist, dass Verzerrung kein Schicksal ist. Es gibt technische und organisatorische Strategien, um sie zu mildern.

1. Synthetische Daten und Ausgleich

Forbes schlägt die Verwendung von Synthetischen Daten vor. Wenn wir nicht genügend historische Daten von Frauen als CEOs haben, können wir sie künstlich erzeugen, um dem Algorithmus „beizubringen“, dass eine Frau ein Unternehmen leiten kann. Dies durchbricht den Teufelskreis historischer Daten.

2. Fairness-Toolkits und Audits

Wie von Women Tech Network berichtet (womentech.net), veröffentlichen große Tech-Unternehmen Open-Source-Tools:

  • IBM AI Fairness 360: Eine Bibliothek zum Erkennen und Entfernen von Verzerrungen aus Modellen.
  • Microsoft Fairlearn: Zur Visualisierung von Leistungsunterschieden zwischen demografischen Gruppen.
  • Google Inclusive ML: Richtlinien für diversifizierte Datensätze. Darüber hinaus bestehen die Universität Padua (unipd-centrodirittiumani.it) und die FRA (Agentur der Europäischen Union für Grundrechte) auf der Bedeutung unabhängiger algorithmischer Audits: den Algorithmus vor der Markteinführung „unter Stress“ zu testen und zu prüfen, wie er sich bei verschiedenen Geschlechtergruppen verhält.

3. Pre-processing und Post-processing

Laut einer Studie in Nature (nature.com) kann man zu zwei Zeitpunkten eingreifen:

  • Pre-processing: Bereinigung der Daten vor dem Training (z.B. Entfernen des Geschlechts aus Lebensläufen).
  • Post-processing: Neukalibrierung der Algorithmusergebnisse, um faire Quoten zu gewährleisten (z.B. Vorgabe einer paritätischen Vertretung unter den Top-10-Kandidaten).

6. Der regulatorische Rahmen: DSGVO und Beweislast

Technologie allein reicht nicht. Es braucht Gesetze. Artikel 22 der DSGVO, zitiert von LavoroDirittiEuropa, schützt Bürger vor rein automatisierten Entscheidungen. Aber der wahre Kampf dreht sich um die umgekehrte Beweislast. Heute ist es für eine Frau schwer zu beweisen, dass sie von einem Algorithmus aussortiert wurde. Die neue EU-Richtlinie zur Plattformarbeit und der AI Act drängen darauf, dass Unternehmen nachweisen müssen, dass ihre Algorithmen nicht diskriminierend sind. Wenn sie es nicht erklären können (Black Box), dürfen sie ihn nicht verwenden.

FAQ: Häufige Fragen zu KI und Geschlechterdiskriminierung

1. Ist KI absichtlich sexistisch? Nein, KI hat keine Absichten oder ein Bewusstsein. Sie ist „statistisch“ sexistisch. Sie spiegelt die Ungleichheiten wider, die in den Daten vorhanden sind, mit denen sie trainiert wurde. Wenn die Welt sexistisch ist, wird es die KI auch sein, es sei denn, wir greifen aktiv ein, um sie zu korrigieren.

2. Wird ChatGPT