算法与性别歧视：当人工智能放大差距（问题与策略）
人工智能并非中立：它从我们的历史错误中学习。联合国教科文组织近期研究显示，生成式模型输出的内容中有88%延续了倒退的性别刻板印象。从亚马逊招聘工具筛除女性简历的案例，到预测性司法中的偏见，我们将剖析算法如何可能使父权制自动化。但并非全无希望：我们将探讨“算法公平性”策略、合成数据的使用以及独立审计机制，以构建一种能缩小
计算机领域有句格言：“垃圾进，垃圾出”。如果我们用浸透着父权制和性别不平等的数百年文学、法律和历史数据来喂养人工智能，就不能指望机器输出公平。它只会将我们最糟糕的偏见放大、加速并自动化地返还给我们。
如今，AI决定谁被雇佣、谁获得贷款，以及女性在合成媒体中如何被呈现。然而，联合国教科文组织最近的研究以及亚马逊等引人注目的案例表明，我们正面临一场以技术进步为幌子的公民权利倒退风险。如果一个算法因为简历中含有“女性”一词而将其丢弃，或者如果一个大型语言模型系统地将“医生”与男性关联、“护士”与女性关联，这并非“小故障”。我们面对的是一个结构性问题。
在本文为《AI指南针》撰写的内容中，我们将分析性别偏见的根源、最令人担忧的案例研究（从招聘到预测性司法），以及最重要的，构建包容性AI的技术和监管策略。因为技术并非中立，但可以被纠正。
1. 问题根源：数据的扭曲镜像
要理解AI为何歧视，我们必须审视其“引擎”。AI没有观点，它只有数据。
扭曲的数据集与“恶性循环”
正如国际世界的分析（mondointernazionale.org）所完美解释的，偏见几乎总是产生于训练阶段。如果我们主要用白人男性的面孔来训练一个面部识别系统，该系统就会“学会”认为那是人类面孔的标准。这就创造了一个数据恶性循环（福布斯科技理事会也引用了此概念 – forbes.com）：
- 社会历史上歧视女性（例如，担任CEO的女性较少）。
- 历史数据反映了这一现实（数据集中女性CEO的简历很少）。
- 算法学到“女性”与“CEO”不相关。
- 算法在CEO职位上筛掉女性，产生新的歧视性数据，这些数据将喂养未来的模型。
团队中的代表性偏见
此外还有一个人为问题：谁在编写代码？科技行业仍然由男性主导。如果开发团队中没有女性，很可能没有人会质疑算法将如何处理敏感变量或性别细微差别。开发团队的多样性不是“政治正确”，而是软件质量的要求。
要深入了解偏见如何潜入代码的技术机制，请参阅我们关于算法偏见与隐形歧视的基础文章。
2. 亚马逊案例与招聘：大男子主义算法
欧洲劳工权利（lavorodirittieuropa.it）分析的最常被引用的例子之一是亚马逊的实验性招聘工具（后来被撤回）。
“因为是女队长而被扣分”
亚马逊希望自动化简历筛选。AI接受了该公司过去10年收到的简历训练（大部分来自男性）。结果呢？算法开始惩罚包含“women’s”一词的简历（例如，“女子国际象棋俱乐部女队长”），并降低来自女子大学的候选人的评级。算法推导出了一个简单而残酷的规则：男性 = 录用；女性 = 淘汰。这个案例表明，仅仅从简历中明确删除性别信息是不够的：AI会找到代理变量（相关变量），如爱好、写作风格或大学，来推断性别并进行同样歧视。
性别歧视的招聘广告
广告投放也存在问题。CDT（cdt.ch）报道了Facebook算法几乎只向男性展示技术职位（工程师）广告，而向女性展示护理职位（护士、秘书）广告的案例。算法基于过去的刻板印象优化“可能的点击”，实际上阻止了女性了解STEM职业机会。
面对这些“黑箱”，保护劳动者是一项优先任务。在我们的专题文章AI与劳动者数字权利保护中了解法律保护。
3. 生成式AI：ChatGPT和Gemini中的倒退性刻板印象
随着生成式AI的出现，问题已从资源分配（工作/金钱）转向文化表征。
联合国教科文组织的震惊研究
联合国教科文组织最近的一份报告（ScienceDirect引用 – sciencedirect.com，并在联合国教科文组织官网讨论 – unesco.org）揭示了令人震惊的数据。主流LLM（如GPT-3.5和4）生成的输出中，88%包含倒退的性别刻板印象。
- 如果你要求写一个关于“医生”的故事，AI会使用男性代词。
- 如果你要求写“空乘人员”或“教师”，它会使用女性代词。
- 女性更常被用与外貌或情绪相关的形容词描述，而男性则用与能力和行动相关的形容词描述。
“镜像综合症”的危险
这一点极其严重，因为这些工具被用于撰写电子邮件、报纸文章、儿童书籍。AI不仅仅是在反映我们过去存在的性别歧视；它正在将其投射到未来，为从小就与聊天机器人互动的新一代人将这些偏见常态化。
语言塑造现实。要了解合成词如何影响我们的认知，请阅读AI与语言：合成词与创造力。
4. 预测性司法：当偏见成为判决
如果失去工作是严重的，那么失去自由则是悲剧性的。
COMPAS案例与女性
Women at the Table（womenatthetable.net）强调，用于评估再犯风险的预测性司法系统对男性和女性的误判方式不同。在COMPAS软件案例中，观察到了不成比例的误差率（差异性影响）。此外，巴西和英国的研究表明，算法倾向于基于情绪化刻板印象（“不稳定”、“歇斯底里”）来评估女性，导致更严厉的刑罚或剥夺子女监护权，而对男性则使用更多基于犯罪事实的标准。
正义不能被委托给一个有缺陷的统计数据。我们在算法偏见与正义：谁来审判算法？中深入探讨这一伦理主题。
5. 干预策略：如何“治愈”算法
好消息是，偏见并非宿命。存在技术和组织策略来缓解它。
1. 合成数据与平衡
福布斯建议使用合成数据。如果我们没有足够的历史女性CEO数据，我们可以人工创建数据来“教导”算法女性可以领导公司。这打破了历史数据的恶性循环。
2. 公平性工具包与审计
正如Women Tech Network（womentech.net）所报道的，大型科技公司正在发布开源工具：
- IBM AI Fairness 360： 一个用于检测和消除模型中偏见的库。
- Microsoft Fairlearn： 用于可视化不同人口群体间的性能差异。
- Google Inclusive ML： 多样化数据集的指南。此外，帕多瓦大学（unipd-centrodirittiumani.it）和基本权利机构坚持独立算法审计的重要性：在算法投放市场前对其进行“压力测试”，验证其在不同性别群体中的表现。
3. 预处理与后处理
根据《自然》上的一项研究（nature.com），可以在两个阶段进行干预：
- 预处理： 在训练前清理数据（例如，从简历中删除性别信息）。
- 后处理： 重新校准算法的结果以确保公平配额（例如，强制规定前10名候选人中性别比例均衡）。
6. 监管框架：GDPR与举证责任
仅靠技术是不够的。需要法律。欧洲劳工权利引用的《通用数据保护条例》第22条保护公民免受纯粹自动化决策的影响。但真正的战斗在于举证责任倒置。如今，女性很难证明自己被算法淘汰。欧盟关于平台工作的新指令和《人工智能法案》正在推动要求公司必须证明其算法不具有歧视性。如果他们无法解释（黑箱），就不能使用它。
常见问题解答：关于AI与性别歧视
1. AI是故意性别歧视的吗？ 不，AI没有意图或意识。它是“统计上”性别歧视的。它反映了其训练数据中存在的不平等。如果世界是性别歧视的，AI也会是性别歧视的，除非我们积极干预纠正它。
2. ChatGPT是否变得不那么歧视了？ OpenAI和谷歌不断使用“基于人类反馈的强化学习”技术来教导模型拒绝刻板印象。然而，偏见根深蒂固，并且“过度校正”（导致不自然结果的过度纠正）的风险始终存在。
3. 如果我怀疑自己被算法歧视了，我该怎么办？ 在欧洲，GDPR赋予您要求“人工干预”任何对您产生法律影响的自动化决策的权利。您可以询问决策是如何做出的，并提出异议。记录事件至关重要。
4. 合成数据是最终解决方案吗？ 它们有很大帮助，但并非万能。如果生成合成数据的人有无意识的偏见，那么虚假数据也会有偏差。解决方案始终需要批判性和伦理的人类监督。
5. 为什么面部识别对女性的错误率更高？ 这是一个被称为“性别阴影”的已知问题。许多训练数据集包含的女性照片很少，尤其是有色人种女性。因此，AI对这些面部特征的“学习”不足，导致更多的识别错误，对安全和获取服务构成严重风险。
结论：AI作为救赎的机会？
矛盾的是，人工智能可能是我们战胜性别歧视的最佳盟友。一个人可能具有性别歧视并否认它，将其偏见隐藏在潜意识中。算法则不然：它的偏见是数学的、可测量的，因此是可纠正的。
如果我们有勇气打开“黑箱”，审计代码，并强制使用包容性数据集，我们就有可能构建出比其创造者更公正的机器。另一种选择是父权制被刻入硅片，变得隐形且无法挑战的未来。目前，选择权仍然掌握在人类手中。
参考文献与资料来源
为确保分析的准确性和深度，本文参考了以下主要来源：