الخوارزميات والتمييز بين الجنسين: عندما تُضخِّم الذكاء الاصطناعي الفجوة (التحديات والاستراتيجيات)

الذكاء الاصطناعي ليس محايدًا: فهو يتعلم من أخطائنا التاريخية. كشفت دراسة حديثة لمنظمة اليونسكو أن 88٪ من مخرجات النماذج التوليدية تُرسخ الصور النمطية الجنسانية

يوجد قول مأثور في عالم المعلوماتية: "Garbage In, Garbage Out" (قمامة تدخل، قمامة تخرج). إذا غذينا ذكاءً اصطناعيًا بقرون من الأدب والقوانين والبيانات التاريخية المشبعة بالأبوية وعدم المساواة بين الجنسين، فلا يمكننا أن نتوقع من الآلة أن ترد إلينا الإنصاف. سترد لنا نسخة مكبرة، مسرعة، وآلية من أسوأ تحيزاتنا.

اليوم، يقرر الذكاء الاصطناعي من يتم توظيفه، من يحصل على قرض، وكيْفَ يتم تمثيل النساء في الوسائط الاصطناعية. ومع ذلك، تظهر الدراسات الحديثة لليونسكو وحالات صارخة مثل حالة أمازون أننا نخاطر بتراجع في الحقوق المدنية متخفٍ في ثوب التقدم التكنولوجي. إذا تجاهلت خوارزمية سيرة ذاتية لأنها تحتوي على كلمة "أنثى"، أو إذا ربط نموذج لغوي كبير (LLM) بشكل منهجي كلمة "طبيب" بالرجل و"ممرضة" بالمرأة، فإننا لسنا أمام "عطل تقني". نحن أمام مشكلة هيكلية.

في هذا المقال لـ بوصلة الذكاء الاصطناعي، سنحلل جذور التحيز الجندري، وحالات الدراسة الأكثر إثارة للقلق (من التوظيف إلى العدالة التنبؤية)، والأهم من ذلك، الاستراتيجيات التقنية والتشريعية لبناء ذكاء اصطناعي شامل. لأن التكنولوجيا ليست محايدة، ولكن يمكن تصحيحها.

1. جذر المشكلة: المرآة المشوهة للبيانات

لفهم سبب تمييز الذكاء الاصطناعي، يجب أن ننظر داخل "المحرك". الذكاء الاصطناعي ليس لديه آراء، بل لديه بيانات.

مجموعات البيانات المتحيزة و"الدائرة المفرغة"

كما يشرح تحليل موندو إنترناسيونالي (mondointernazionale.org) بشكل مثالي، ينشأ التحيز دائمًا تقريبًا في مرحلة التدريب. إذا دربنا نظامًا للتعرف على الوجوه بشكل أساسي على وجوه رجال بيض، فسوف "يتعلم" النظام أن هذا هو المعيار لوجه الإنسان. هذا يخلق دائرة مفرغة للبيانات (كما أشار إليه مجلس فوربس للتكنولوجيا – forbes.com):

1. المجتمع كان يميز تاريخيًا ضد النساء (مثلًا: عدد أقل من النساء في مناصب الرئيس التنفيذي).
2. البيانات التاريخية تعكس هذا الواقع (عدد قليل من سير الذاتية لنساء في منصب الرئيس التنفيذي في مجموعة البيانات).
3. تتعلم الخوارزمية أن "المرأة" لا ترتبط بـ "الرئيس التنفيذي".
4. تستبعد الخوارزمية النساء عن مناصب الرئيس التنفيذي، مما يخلق بيانات تمييزية جديدة ستغذي النماذج المستقبلية.

تحيز التمثيل في الفرق

هناك أيضًا مشكلة بشرية: من يكتب الكود؟ لا يزال قطاع التكنولوجيا يهيمن عليه الرجال. إذا لم تكن هناك نساء في فريق التطوير، فمن المحتمل ألا يطرح أحد أسئلة حول كيفية تعامل الخوارزمية مع المتغيرات الحساسة أو الفروق الدقيقة المتعلقة بالنوع الاجتماعي. التنوع في فريق التطوير ليس "صحيحًا سياسيًا"، بل هو شرط لجودة البرمجيات.

لتعميق الفهم في الآليات التقنية التي يتسلل من خلالها التحيز إلى الكود، نوجهكم إلى مقالنا التأسيسي حول التحيزات الخوارزمية والتمييز الخفي.

2. حالة أمازون والتوظيف: الخوارزمية الذكورية

أحد الأمثلة الأكثر ذكرًا، والذي حلله لافورو ديريتي أوروبا (lavorodirittieuropa.it)، هو أداة التوظيف التجريبية لأمازون (التي سُحبت لاحقًا).

"عوقبت لأنها كانت قائدة"

أرادت أمازون أتمتة اختيار السير الذاتية. تم تدريب الذكاء الاصطناعي على السير الذاتية التي تلقتها الشركة في السنوات العشر السابقة (معظمها من رجال). النتيجة؟ بدأت الخوارزمية في معاقبة السير الذاتية التي تحتوي على كلمة "نساء" (مثل "قائدة نادي الشطرنج النسائي") وتخفيض ترتيب المرشحات القادمات من جامعات نسائية. استنتجت الخوارزمية قاعدة بسيطة ووحشية: رجل = تعيين؛ امرأة = استبعاد. تظهر هذه الحالة أن إزالة النوع الاجتماعي صراحة من السيرة الذاتية لا يكفي: يجد الذكاء الاصطناعي وكلاء (متغيرات مرتبطة) مثل الهواية، أو أسلوب الكتابة، أو الجامعة لاستنتاج النوع الاجتماعي والتمييز على أي حال.

إعلانات العمل المتحيزة جنسيًا

توزيع الإعلانات أيضًا إشكالي. يذكر CDT (cdt.ch) حالات عرضت فيها خوارزميات فيسبوك إعلانات لوظائف تقنية (مهندسين) حصريًا تقريبًا للرجال، ووظائف رعاية (ممرضات، سكرتيرات) للنساء. كانت الخوارزمية تحسن أداءها بناءً على "النقرات المحتملة" المستندة إلى الصور النمطية السابقة، مما منع النساء فعليًا من معرفة فرص العمل في مجالات العلوم والتكنولوجيا والهندسة والرياضيات (STEM).

حماية العمال في مواجهة هذه "الصناديق السوداء" هي أولوية. اكتشف الحماية القانونية في تركيزنا على الذكاء الاصطناعي وحماية الحقوق الرقمية للعمال.

3. الذكاء الاصطناعي التوليدي: الصور النمطية الرجعية في ChatGPT وGemini

مع ظهور الذكاء الاصطناعي التوليدي، انتقلت المشكلة من تخصيص الموارد (العمل/المال) إلى التمثيل الثقافي.

الدراسة الصادمة لليونسكو

يكشف تقرير حديث لـ اليونسكو، الذي استشهد به ScienceDirect (sciencedirect.com) ونوقش على الموقع الرسمي لليونسكو (unesco.org)، عن بيانات مقلقة. 88٪ من المخرجات التي تولدها نماذج LLM الرئيسية (مثل GPT-3.5 و4) تحتوي على صور نمطية جندرية رجعية.

• إذا طلبت كتابة قصة عن "طبيب"، يستخدم الذكاء الاصطناعي ضمائر المذكر.
• إذا طلبت عن "مضيف طيران" أو "معلم"، يستخدم ضمائر المؤنث.
• غالبًا ما توصف النساء بصفات مرتبطة بالمظهر الجسدي أو العاطفية، بينما يوصف الرجال بصفات مرتبطة بالكفاءة والفعل.

خطر "متلازمة المرآة"

هذا خطير للغاية لأن هذه الأدوات تُستخدم لكتابة رسائل البريد الإلكتروني، ومقالات الصحف، وكتب الأطفال. الذكاء الاصطناعي لا يعكس فقط ماضينا الجنساني؛ بل يطرحه في المستقبل، ويطبع هذه التحيزات على الأجيال الجديدة التي ستتفاعل مع روبوتات الدردشة منذ الطفولة.

اللغة تشكل الواقع. لفهم كيف تؤثر الكلمات الاصطناعية على إدراكنا، اقرأ الذكاء الاصطناعي واللغة: الكلمات الاصطناعية والإبداع.

4. العدالة التنبؤية: عندما يصبح التحيز حكمًا

إذا كان فقدان العمل أمرًا خطيرًا، فإن فقدان الحرية مأساة.

حالة COMPAS والنساء

تسلط Women at the Table (womenatthetable.net) الضوء على كيف تخطئ أنظمة العدالة التنبؤية (المستخدمة لتقييم خطر العودة للإجرام) بشكل مختلف للرجال والنساء. في حالة برنامج COMPAS، لوحظ معدل خطأ غير متناسب (تأثير متفاوت). علاوة على ذلك، تظهر دراسات في البرازيل والمملكة المتحدة كيف تميل الخوارزميات إلى تقييم النساء بناءً على صور نمطية عاطفية ("غير مستقرة"، "هستيرية") تؤدي إلى عقوبات أشد أو حرمان من حضانة الأطفال، بينما تُستخدم معايير أكثر ارتباطًا بالوقائع الجنائية للرجال.

لا يمكن تفويض العدالة لإحصائية فاسدة. نتعمق في هذا الموضوع الأخلاقي في التحيزات الخوارزمية والعدالة: من يحكم على الخوارزمية؟.

5. استراتيجيات التدخل: كيف "نعالج" الخوارزمية

الخبر السار هو أن التحيز ليس قدرًا محتومًا. توجد استراتيجيات تقنية وتنظيمية للتخفيف منه.

1. البيانات الاصطناعية والموازنة

تقترح فوربس استخدام البيانات الاصطناعية. إذا لم يكن لدينا بيانات تاريخية كافية لنساء في منصب الرئيس التنفيذي، يمكننا إنشاؤها بشكل مصطنع "لتعليم" الخوارزمية أن المرأة يمكنها إدارة شركة. هذا يكسر الدائرة المفرغة للبيانات التاريخية.

2. أدوات الإنصاف والمراجعة

كما أفادت Women Tech Network (womentech.net)، تطلق شركات التكنولوجيا الكبرى أدوات مفتوحة المصدر:

• IBM AI Fairness 360: مكتبة لاكتشاف وإزالة التحيز من النماذج.
• Microsoft Fairlearn: لتصور الفروق في الأداء بين المجموعات الديموغرافية.
• Google Inclusive ML: إرشادات لمجموعات بيانات متنوعة. بالإضافة إلى ذلك، تؤكد جامعة بادوفا (unipd-centrodirittiumani.it) ووكالة الحقوق الأساسية (FRA) على أهمية مراجعات الخوارزميات المستقلة: اختبار الخوارزمية "تحت الضغط" قبل إطلاقها في السوق، والتحقق من كيفية تعاملها مع مجموعات النوع الاجتماعي المختلفة.

3. المعالجة المسبقة والمعالجة اللاحقة

وفقًا لدراسة في Nature (nature.com)، يمكن التدخل في مرحلتين:

• المعالجة المسبقة: تنظيف البيانات قبل التدريب (مثل إزالة النوع الاجتماعي من السير الذاتية).
• المعالجة اللاحقة: إعادة معايرة نتائج الخوارزمية لضمان حصص عادلة (مثل فرض تمثيل متساوٍ في قائمة أفضل 10 مرشحين).

6. الإطار التنظيمي: اللائحة العامة لحماية البيانات (GDPR) وعبء الإثبات

التكنولوجيا وحدها لا تكفي. نحتاج إلى القانون. المادة 22 من اللائحة العامة لحماية البيانات (GDPR)، التي استشهد بها لافورو ديريتي أوروبا، تحمي المواطنين من القرارات المؤتمتة بالكامل. لكن المعر