الذكاء الاصطناعي كمرآة للمجتمع: التحيزات الاجتماعية، التجانس الثقوري ومفارقة "الحياد"

غالبًا ما يتم تسويق الذكاء الاصطناعي كقاضٍ نزيه، لكن الواقع مختلف تمامًا: إنه مرآة تعكس، وغالبًا ما تضخم، تحيزات المجتمع الذي أنشأه. من دراسة اليونسكو التي تكشف

هناك أسطورة مستمرة تحيط بالذكاء الاصطناعي: فكرة أن الآلة هي قاضٍ نزيه. كيان مصنوع من الرياضيات والسيليكون، خالٍ من العواطف والتحيزات واللامعقولية التي تعتري الحكم البشري. الواقع، للأسف، هو عكس ذلك تمامًا. الذكاء الاصطناعي ليس عرافًا قادمًا من المستقبل؛ إنه أرشيفي قادم من الماضي.

نماذج اللغة الكبيرة (LLM) مثل GPT-4 أو Claude أو Gemini يتم تدريبها على تيرابايت من النصوص التي أنتجتها البشرية في القرون الماضية: كتب، مقالات، منتديات، قوانين. إذا كان تاريخنا يحتوي على عنصرية وتمييز جنسي واستعمار ثقافي، فستتعلم هذه النماذج هذه السمات كـ "قواعد إحصائية" للغة. الذكاء الاصطناعي، بكل المقاييس، هو مرآة. لكنها ليست مرآة مسطحة تعكس الواقع بأمانة: إنها مرآة مشوهة تميل إلى تضخيم الأصوات المهيمنة ومحو الأصوات الهامشية، مما يخلق نسخة من الواقع أكثر تجانسًا، أكثر "غربية" وغالبًا ما تكون أكثر ظلمًا.

في هذه المقالة لـ الذكاء الاصطناعي والمجتمع، سنحلل دراسات حديثة (نُشرت في Nature و arXiv ومن اليونسكو) تثبت كيف أن الذكاء الاصطناعي يقوم بتسطيح التنوع الأخلاقي البشري وإدامة الصور النمطية التي كنا نعتقد أنها تجاوزناها.

1. آلية الانعكاس: البيانات، التاريخ، والدين التقني

لفهم سبب تمييز الذكاء الاصطناعي، يجب أن ننظر إلى "الغذاء" الذي يتغذى عليه: البيانات. كما نشرح في تحليلنا المتعمق حول الذكاء الاصطناعي غير العادل: كيف ترث الخوارزميات تحيزاتنا، فإن التحيز ليس "خللاً" (خطأ في البرمجة)، بل هو "خاصية" (سمة جوهرية) للتعلم الآلي.

تأثير المرآة (The Mirror Effect)

يصف تحليل معمق لـ UX Collective (uxdesign.cc) الظاهرة بوضوح تام: "التحيز في الذكاء الاصطناعي هو مرآة لثقافتنا". إذا دربنا ذكاءً اصطناعيًا على بيانات العدالة الجنائية الأمريكية للخمسين عامًا الماضية، فسوف "يتعلم" الخوارزم أن الأمريكيين من أصل أفريقي يُعتقلون أكثر. لن يفهم السياق (الشرطة العدوانية، عدم المساواة النظامية)؛ سيرى فقط الارتباط الإحصائي. النتيجة؟ أنظمة مثل COMPAS (المستخدم في المحاكم الأمريكية) التي تتوقع خطر العودة للإجرام بمقدار الضعف للمتهمين السود مقارنة بالبيض، لنفس الجريمة. الخوارزم ليس عنصريًا بأيديولوجية؛ إنه عنصري بالإحصاء. نظر في مرآة التاريخ الأمريكي وعكس تلك الصورة في مستقبل الأحكام القضائية.

مفارقة "التنظيف"

يعتقد الكثيرون أن "تنظيف" البيانات يكفي. لكن إزالة الكلمات الصريحة لا تكفي. يجد الذكاء الاصطناعي بدائل (متغيرات مترابطة). إذا أزلنا العرق من مجموعة بيانات القروض العقارية، فسيستخدم الذكاء الاصطناعي الرمز البريدي (ZIP) للتمييز على أي حال، لأن السكن في العديد من المدن يرتبط ارتباطًا وثيقًا بالعرق. التحيز هيكلي، وليس سطحيًا.

2. التجانس الأخلاقي: العالم كما تراه وادي السيليكون

الخطر ليس فقط في التمييز ضد الأقليات، بل في محو تنوع الفكر. تثير دراسة حديثة نُشرت على arXiv (arxiv.org)، بعنوان "نماذج اللغة الكبيرة كمرايا للمعايير الأخلاقية المجتمعية"، إنذارًا مقلقًا.

التقارب WEIRD

اكتشف الباحثون أن نماذج اللغة، كلما أصبحت أكبر وأقوى (مثل الانتقال من GPT-3.5 إلى GPT-4o)، لا تصبح أكثر "انفتاحًا ذهنيًا". على العكس، فهي تميل إلى التقارب نحو رؤية أخلاقية واحدة: الرؤية WEIRD (الغربية، المتعلمة، الصناعية، الغنية، الديمقراطية). تؤكد الدراسة على PMC (pmc.ncbi.nlm.nih.gov) أن النماذج "تُماثل" التنوع الأخلاقي الثقافي. إذا سألت ذكاءً اصطناعيًا عن رأيه في معضلة أخلاقية (مثل احترام المسنين مقابل الاستقلالية الفردية)، فستعكس الإجابة دائمًا تقريبًا القيم الليبرالية الغربية/الأمريكية.

• التأثير: غالبًا ما يتم تصنيف الفروق الدقيقة للثقافات الجماعية (آسيا، أفريقيا، أمريكا الجنوبية)، حيث تعلو مصلحة المجتمع على الفرد، من قبل الذكاء الاصطناعي على أنها "أقل صحة" أو يتم تجاهلها.

المحاذاة والرقابة غير المقصودة

يحدث هذا بسبب عملية RLHF (التعلم المعزز من التغذية الراجعة البشرية). من هم البشر الذين يقدمون التغذية الراجعة "لمحاذاة" الذكاء الاصطناعي؟ غالبًا ما يكونون عمالًا مؤقتين في كينيا أو الفلبين يتبعون إرشادات مكتوبة في كاليفورنيا. يتم تدريب الذكاء الاصطناعي على الرد بطريقة "آمنة" و"محايدة"، لكن تلك الحياد هي في الواقع انعكاس لقيم وادي السيليكون. نحن نبني برج بابل معكوسًا، حيث يتحدث الجميع نفس اللغة الأخلاقية، ويفقدون ثراء التعددية الأخلاقية البشرية.

للتعمق في من يضع هذه القواعد، نوجهكم إلى التأمل حول الأخلاق الاصطناعية: من يقرر ما هو الصواب.

3. الصور النمطية للنوع الاجتماعي والعرق: بيانات اليونسكو

إذا كان التجانس الأخلاقي خفيًا، فإن الصور النمطية للنوع الاجتماعي واضحة للعيان. تقرير مدمر لـ اليونسكو، أشارت إليه جامعة كالياري (sites.unica.it)، وضع الأرقام على الطاولة.

النساء في المطبخ، الرجال في المكتب

حللت الدراسة النصوص التي ولدتها نماذج اللغة الكبيرة الرئيسية (بما في ذلك Llama 2 و GPT). النتائج هي تراجعات ثقافية:

• يتم وصف النساء في أدوار منزلية أكثر بأربع مرات من الرجال.
• ترتبط مصطلحات مثل "مهندس" أو "طبيب" أو "الرئيس التنفيذي" بالرجال في الغالبية العظمى من الحالات.
• غالبًا ما يتم وصف النساء بصفات مرتبطة بالمظهر الجسدي أو العاطفية ("جميلة"، "هستيرية")، بينما يُوصف الرجال بصفات مرتبطة بالكفاءة ("حاسم"، "ذكي").

تمثيل مجتمع الميم-ع

يسلط التقرير الضوء أيضًا على تحيز مقلق تجاه الأقليات الجنسية. في بعض النماذج، وصلت نسبة المحتوى المتولد حول الأشخاص المثليين أو المتحولين جنسيًا ذات الدلالة السلبية أو النمطية إلى 70%. هذه ليست مجرد مشكلة "صواب سياسي". إذا استخدمت شركة هذه النماذج لتصفية السير الذاتية أو كتابة تقييمات الموظفين، تتحول هذه التحيزات إلى أضرار اقتصادية حقيقية (فرص عمل ضائعة، مسارات مهنية متوقفة).

تأثير هذه التحيزات على عالم العمل هو موضوع مركزي. اكتشف كيف تحمي نفسك في تركيزنا على الذكاء الاصطناعي وحماية الحقوق الرقمية للعمال.

4. التمثيل الخاطئ ثقافيًا: الذكاء الاصطناعي والعالم غير الغربي

الذكاء الاصطناعي التوليدي (خاصة البصري مثل Midjourney أو DALL-E) لديه مشكلة "الاستشراق".

حالة الهند والثقافات الفرعية

بحث مشترك بين جامعة ولاية بنسلفانيا وجامعة واشنطن (ist.psu.edu) حلل كيف يمثل الذكاء الاصطناعي الثقافات غير الغربية، مع التركيز على الهند. النتيجة هي كاريكاتير.

• عند الطلب توليد صورة لـ "شخص هندي"، ينتج الذكاء الاصطناعي دائمًا تقريبًا صورًا للفقر، أو روحانية نمطية (سادو، غورو) أو سياقات ريفية متخلفة.
• يتم محو الحداثة، الطبقة الوسطى الحضرية، التكنولوجيا وتنوع الثقافات الفرعية الهندية. يتصرف الذكاء الاصطناعي كسائح استعماري من القرن التاسع عشر: يرى فقط ما يؤكد تحيزاته الاستشراقية.

ضرر "الأصالة الزائفة"

الخطر هو أنه في عالم غارق بالمحتوى الاصطناعي، تصبح هذه التمثيلات "الواقع المُدرك". إذا تعلم طفل أوروبي كيف تبدو الهند من خلال النظر إلى صور مولدة بالذكاء الاصطناعي، سينشأ برؤية مشوهة ومختزلة لمليار شخص. الذكاء الاصطناعي لا يعكس الواقع فحسب؛ بل بدأ في إعادة كتابته.

5. حلقة التغذية الراجعة: كيف يغير الذكاء الاصطناعي أخلاقنا

حتى الآن تحدثنا عن كيفية تأثيرنا على الذكاء الاصطناعي. لكن ماذا يحدث عندما يؤثر الذكاء الاصطناعي علينا؟ بحث ثوري في Nature Scientific Reports (nature.com) حقق في تأثير نصائح الذكاء الاصطناعي على القرارات الأخلاقية البشرية (مشكلة العربة التقليدية أو معضلات مشابهة).

التبرئة التكنولوجية

أظهرت الدراسة أنه عندما يتلقى إنسان نصيحة من ذكاء اصطناعي حول خيار أخلاقي صعب، فإنه يميل ليس فقط إلى اتباع النصيحة، بل إلى الشعور بمسؤولية أقل تجاه الخيار. يقلل الذكاء الاصطناعي من "الوكالة الأخلاقية" المدركة لدينا. إذا قال الخوارزم "اضحِ بشخص واحد لإنقاذ خمسة"، فإن المستخدم يفعل ذلك مع شعور أقل بالذنب، مفوضًا الضمير للآلة. هذا يخلق حلقة مفرغة خطيرة:

1. الذكاء الاصطناعي لديه تحيزات (ورثها من البيانات).
2. ينصح الذكاء الاصطناعي بإجراءات بناءً على تلك التحيزات.
3. ينفذ البشر تلك الإجراءات وهم يشعرون بعدم المسؤولية.
4. تولد الإجراءات البشرية بيانات جديدة مشوهة تعيد تدريب الذكاء الاصطناعي.

علم النفس وراء هذا التفاعل معقد. نتعمق في كيفية تأثير الآلة على العقل في الذكاء الاصطناعي وعلم نفس العقل: التشخيص والخوارزميات.

6. حكم المرآة: الحلول والآفاق

هل يمكننا تنظيف المرآة؟ أم أننا محكومون بمستقبل من الصور النمطية الآلية؟

ما وراء "الحياد"

يجب أن نتخلى عن فكرة أن الذكاء الاصطناعي يمكن أن يكون محايدًا. لا توجد وجهة نظر محايدة ("النظر من العدم"). كل نموذج يحمل معه قيم صانعيه. الحل ليس البحث عن حياد مستحيل، بل شفافية جذرية. يجب على صانعي النماذج أن يعلنوا: "هذا النموذج لديه تحيز غربي"، "هذا النموذج يفضل الكفاءة الاقتصادية على الإنصاف الاجتماعي".

تنويع المُعلِّمين البشري