Algoritmos e Discriminações de Gênero: Quando a IA Amplifica a Lacuna (Críticas e Estratégias)

A IA não é neutra: ela aprende com nossos erros históricos. Um estudo recente da UNESCO revela que 88% das saídas dos modelos generativos perpetuam estereótipos

Existe um adágio no mundo da informática: “Garbage In, Garbage Out” (Lixo que entra, lixo que sai). Se alimentarmos uma Inteligência Artificial com séculos de literatura, leis e dados históricos impregnados de patriarcado e desigualdades de género, não podemos esperar que a máquina devolva equidade. Ela devolver-nos-á uma versão amplificada, acelerada e automatizada dos nossos piores preconceitos.

Hoje, a IA decide quem é contratado, quem obtém um empréstimo e como as mulheres são representadas nos media sintéticos. No entanto, estudos recentes da UNESCO e casos flagrantes como o da Amazon demonstram que estamos a arriscar uma regressão dos direitos civis mascarada de progresso tecnológico. Se um algoritmo descarta um CV porque contém a palavra “feminino”, ou se um LLM (Large Language Model) associa sistematicamente a palavra “médico” ao homem e “enfermeira” à mulher, não estamos perante um “glitch”. Estamos perante um problema estrutural.

Neste artigo para La Bussola dell’IA, analisaremos as raízes do Gender Bias, os casos de estudo mais alarmantes (do recrutamento à justiça preditiva) e, sobretudo, as estratégias técnicas e normativas para construir uma IA inclusiva. Porque a tecnologia não é neutra, mas pode ser corrigida.

1. A Raiz do Problema: O Espelho Deformante dos Dados

Para perceber porque é que a IA discrimina, temos de olhar para o “motor”. A IA não tem opiniões, tem dados.

Conjuntos de Dados Distorcidos e “Ciclo Vicioso”

Como explica perfeitamente a análise de Mondo Internazionale (mondointernazionale.org), o preconceito nasce quase sempre na fase de treino. Se treinarmos um sistema de reconhecimento facial predominantemente em rostos de homens brancos, o sistema “aprenderá” que esse é o padrão de um rosto humano. Isto cria um ciclo vicioso dos dados (citado também por Forbes Tech Council – forbes.com):

A sociedade historicamente discriminou as mulheres (ex. menos mulheres em posições de CEO).
Os dados históricos refletem esta realidade (poucos CVs de mulheres CEO no conjunto de dados).
O algoritmo aprende que “Mulher” não está correlacionado com “CEO”.
O algoritmo descarta as mulheres para posições de CEO, criando novos dados discriminatórios que alimentarão os futuros modelos.

Preconceito de Representação nas Equipas

Há ainda um problema humano: quem escreve o código? O setor tecnológico ainda é dominado por homens. Se na equipa de desenvolvimento não houver mulheres, é provável que ninguém se coloque questões sobre como o algoritmo irá gerir variáveis sensíveis ou nuances de género. A diversidade na equipa de desenvolvimento não é “politicamente correto”, é um requisito de qualidade do software.

Para aprofundar os mecanismos técnicos através dos quais o preconceito se insinua no código, remetemo-lo para o nosso artigo fundador sobre Preconceitos Algorítmicos e Discriminação Invisível.

2. O Caso Amazon e o Recrutamento: O Algoritmo Machista

Um dos exemplos mais citados, analisado por LavoroDirittiEuropa (lavorodirittieuropa.it), é a ferramenta de recrutamento experimental da Amazon (posteriormente retirada).

“Penalizada por ser Capitã”

A Amazon queria automatizar a seleção de CVs. A IA foi treinada nos CVs recebidos pela empresa nos 10 anos anteriores (a maioria proveniente de homens). Resultado? O algoritmo começou a penalizar os CVs que continham a palavra “women’s” (ex. “capitã do clube de xadrez feminino”) e a desclassificar as candidatas provenientes de universidades femininas. O algoritmo tinha deduzido uma regra simples e brutal: Homem = Contratar; Mulher = Descartar. Este caso demonstra que remover explicitamente o género do CV não basta: a IA encontra proxies (variáveis correlacionadas) como o hobby, o estilo de escrita ou a universidade para inferir o género e discriminar da mesma forma.

Anúncios de Emprego Sexistas

Também a distribuição dos anúncios é problemática. O CDT (cdt.ch) relata casos em que os algoritmos do Facebook mostravam anúncios para posições técnicas (engenheiros) quase exclusivamente a homens, e posições de cuidado (enfermeiras, secretárias) a mulheres. O algoritmo otimizava para os “cliques prováveis” baseados em estereótipos passados, impedindo efetivamente as mulheres de ficarem a conhecer oportunidades de carreira STEM.

A proteção dos trabalhadores perante estas “caixas negras” é uma prioridade. Descubra as proteções legais no nosso foco sobre IA e Proteção dos Direitos Digitais dos Trabalhadores.

3. IA Generativa: Estereótipos Regressivos em ChatGPT e Gemini

Com o advento da IA Generativa, o problema deslocou-se da alocação de recursos (trabalho/dinheiro) para a representação cultural.

O Estudo Chocante da UNESCO

Um relatório recente da UNESCO, citado por ScienceDirect (sciencedirect.com) e discutido no site oficial da UNESCO (unesco.org), revela dados alarmantes. 88% dos *outputs* gerados pelos principais LLMs (como GPT-3.5 e 4) contém estereótipos de género regressivos.

Se pedir para escrever uma história sobre um “médico”, a IA usa pronomes masculinos.
Se pedir sobre um “assistente de bordo” ou “professor”, usa pronomes femininos.
As mulheres são descritas mais frequentemente com adjetivos ligados à aparência física ou à emotividade, os homens com adjetivos ligados à competência e à ação.

O Perigo da “Síndrome do Espelho”

Isto é gravíssimo porque estas ferramentas são usadas para escrever emails, artigos de jornal, livros para crianças. A IA não está apenas a refletir o nosso passado sexista; está a projetá-lo no futuro, normalizando estes preconceitos para as novas gerações que interagirão com os *chatbots* desde a infância.

A linguagem molda a realidade. Para perceber como as palavras sintéticas influenciam a nossa perceção, leia IA e Linguagem: Palavras Sintéticas e Criatividade.

4. Justiça Preditiva: Quando o Preconceito se Torna Condenação

Se perder um emprego é grave, perder a liberdade é trágico.

O Caso COMPAS e as Mulheres

Women at the Table (womenatthetable.net) evidencia como os sistemas de justiça preditiva (usados para avaliar o risco de reincidência) erram de forma diferente para homens e mulheres. No caso do software COMPAS, notou-se uma taxa de erro desproporcionada (*Disparate Impact*). Além disso, estudos no Brasil e no Reino Unido mostram como os algoritmos tendem a avaliar as mulheres baseando-se em estereótipos emocionais (“instável”, “histérica”) que levam a penas mais severas ou à negação da custódia dos filhos, enquanto para os homens se usam critérios mais ligados aos factos criminais.

A justiça não pode ser delegada a uma estatística viciada. Aprofundamos este tema ético em Preconceitos Algorítmicos e Justiça: Quem Julga o Algoritmo?.

5. Estratégias de Intervenção: Como “Curar” o Algoritmo

A boa notícia é que o preconceito não é uma fatalidade. Existem estratégias técnicas e organizacionais para o mitigar.

1. Dados Sintéticos e Equilíbrio

Forbes sugere o uso de Dados Sintéticos. Se não tivermos dados históricos suficientes de mulheres CEO, podemos criá-los artificialmente para “ensinar” ao algoritmo que uma mulher pode dirigir uma empresa. Isto quebra o ciclo vicioso dos dados históricos.

2. Toolkits de Fairness e Auditoria

Como relatado por Women Tech Network (womentech.net), as grandes empresas tecnológicas estão a lançar ferramentas *open-source*:

IBM AI Fairness 360: Uma biblioteca para detetar e remover preconceitos dos modelos.
Microsoft Fairlearn: Para visualizar as disparidades de desempenho entre grupos demográficos.
Google Inclusive ML: Linhas orientadoras para conjuntos de dados diversificados. Além disso, a Universidade de Pádua (unipd-centrodirittiumani.it) e a FRA (Agência dos Direitos Fundamentais) insistem na importância das Auditorias Algorítmicas Independentes: testar o algoritmo “sob stress” antes de o lançar no mercado, verificando como se comporta com diferentes grupos de género.

3. Pre-processing e Post-processing

Segundo um estudo na Nature (nature.com), pode-se intervir em dois momentos:

Pre-processing: Limpar os dados antes do treino (ex. remover o género dos CVs).
Post-processing: Recalibrar os resultados do algoritmo para garantir quotas equitativas (ex. impor que no *top* 10 dos candidatos haja uma representação paritária).

6. O Quadro Normativo: RGPD e Ónus da Prova

A tecnologia por si só não basta. É necessária a lei. O artigo 22º do RGPD, citado por LavoroDirittiEuropa, protege os cidadãos de decisões puramente automatizadas. Mas a verdadeira batalha está no Ónus Probatório Inverso. Hoje é difícil para uma mulher demonstrar que foi descartada por um algoritmo. A nova diretiva da UE sobre trabalho em plataforma e o AI Act estão a pressionar para que sejam as empresas a terem de demonstrar que os seus algoritmos não são discriminatórios. Se não o conseguirem explicar (*Black Box*), não podem usá-lo.

FAQ: Perguntas Frequentes sobre IA e Discriminação de Género

1. A IA é sexista de propósito? Não, a IA não tem intenções ou consciência. É sexista “por estatística”. Reflete as desigualdades presentes nos dados em que foi treinada. Se o mundo é sexista, a IA será sexista, a menos que intervenhamos ativamente para a corrigir.

2. O ChatGPT está a tornar-se menos discriminatório? A OpenAI e a Google trabalham constantemente com técnicas de “*Reinforcement Learning from Human Feedback*” (RLHF) para ensinar os modelos a rejeitar estereótipos. No entanto, os preconceitos são profundos e o risco de “*over-correction*” (excesso de correção que leva a resultados não naturais) está sempre presente.

3. O que posso fazer se suspeitar de ter sido discriminada por um algoritmo?