الأخلاق والذكاء الاصطناعي في إدارة الأزمات الإنسانية: إنقاذ الأرواح أم أتمتة اللامبالاة؟

في مخيم للاجئين، تقرر خوارزمية من يأكل. هل هي كفاءة أم لا إنسانية؟ يغير الذكاء الاصطناعي إدارة الأزمات الإنسانية، من التنبؤ بالمجاعات إلى إزالة الألغام. ومع ذلك

تخيل مخيماً للاجئين في اليمن أو على الحدود السودانية. الموارد المائية شحيحة، والطعام موزع بالغرام، وآلاف الأشخاص يضغطون على البوابات، فارين من النزاعات أو الكوارث المناخية. في هذا السيناريو الكارثي، من يقرر لمن يعطى آخر كيس من الأرز أو آخر خيمة متاحة؟ حتى الأمس، كانت هذه القرارات المؤلمة تقع على عاتق عامل إغاثة منهك، يتأثر بالإرهاق والتوتر وتحيزاته اللاواعية الحتمية. اليوم، يتم تفويض هذا القرار بشكل متزايد إلى خوارزمية. نظام قام بحساب "درجة الضعف" لكل عائلة بناءً على البيانات البيومترية ومسح القزحية والتحليلات الساتلية.

يعد الذكاء الاصطناعي بتحقيق الكفاءة في فوضى الأزمات الإنسانية التي لا يمكن السيطرة عليها. يعد بالتنبؤ بالمجاعات قبل أشهر من فشل المحاصيل، وإزالة الألغام من الأراضي الملوثة دون المخاطرة بحياة البشر، وتحسين لوجستيات المساعدات كما لو كانت سلسلة توريد عالمية عالية الدقة. ولكن عندما تكون "البضاعة" المعنية ليست طرداً بريدياً بل بقاء الإنسان، تصطدم الكفاءة الخوارزمية بعنف مع مبادئ أخلاقية عمرها آلاف السنين. كيف يمكننا ضمان ألا يحول الذكاء الاصطناعي حقوق الإنسان إلى متغيرات في معادلة؟ كيف نتجنب أن يصبح جمع البيانات شكلاً من أشكال المراقبة الملاحقة؟

في هذا المقال "الرئيسي" لعمود الأخلاق والمجتمع، سنستكشف الحدود الدقيقة بين المساعدة والتحكم، من خلال تحليل الأطر الأخلاقية للصليب الأحمر، ومخاطر التحيزات المميتة، وظاهرة "الاستعمار الرقمي" والضرورة الملحة للحفاظ على "الإنسان في الحلقة" عندما تكون القرارات حرفياً مسألة حياة أو موت.

1. الوعد التكنولوجي: التنبؤ بما لا يمكن التنبؤ به وتحسين الأمل

تعمل المنظمات الإنسانية في بيئات تحددها عدم اليقين وندرة البيانات الموثوقة ("ندرة البيانات"). يقدم الذكاء الاصطناعي إمكانية ثورية لتحويل شذرات البيانات غير المنظمة إلى عمل وقائي منقذ للحياة.

توقع الكوارث: "التمويل القائم على التنبؤ"

النموذج التقليدي للمساعدة هو تفاعلي: تحدث الكارثة، يتم جمع الأموال، وإرسال المساعدات. غالباً ما يكون الأوان قد فات. كما أفاد الصليب الأحمر الإيطالي (CRI) ونوقش في منتدى سوتشو (cri.it)، فإن الذكاء الاصطناعي يمكّن من التمويل القائم على التنبؤ (FbF). تقوم خوارزميات التعلم الآلي بتحليل أنماط الطقس المعقدة والبيانات التاريخية عن الأمطار وأسواق الأسعار المحلية للتنبؤ بالفيضانات أو الجفاف قبل أسابيع، وأحياناً أشهر. وهذا يسمح بإطلاق الأموال تلقائياً قبل وقوع الكارثة. يتم توزيع مجموعات بيطرية لإنقاذ الماشية قبل الجفاف، أو تعزيز السدود قبل الفيضان. إنه ليس سحراً، بل إحصاءات تطبق على البقاء، تحول المساعدة من عمل خيري بعد الوفاة إلى استثمار وقائي.

وكلاء الذكاء الاصطناعي و"التوائم الرقمية" للأزمات

حد أكثر تطوراً، كما وصفه UNU-CPR (مركز جامعة الأمم المتحدة لأبحاث السياسات) (unu.edu)، هو استخدام "وكلاء الذكاء الاصطناعي" لمحاكاة سيناريوهات الأزمات المعقدة. من خلال إنشاء "توائم رقمية" (Digital Twins) لمخيم لاجئين أو منطقة متضررة، يمكن للعاملين ملء هذه العوالم الافتراضية بـ شخصيات رقمية تحاكي سلوك اللاجئين الحقيقيين (بناءً على بيانات مجهولة المصدر). يمكن للعاملين بعد ذلك اختبار أسئلة حاسمة: "ماذا يحدث إذا وزعنا الطعام على النساء المعيلات فقط؟"، "كيف تتغير تدفقات الهجرة إذا أغلقنا هذا المعبر؟". وهذا يسمح بالفشل افتراضياً وتصحيح الاستراتيجيات دون التسبب في ضرر حقيقي لأشخاص ضعفاء بالفعل.

إزالة الألغام والرؤية الحاسوبية

في مناطق ما بعد الصراع، تبقى الألغام المضادة للأفراد تهديداً لعقود. يعمل الذكاء الاصطناعي على تسريع عمليات إزالة الألغام بشكل كبير. تقوم طائرات بدون طيار مزودة بكاميرات حرارية وفرط طيفية بمسح مناطق شاسعة، وتحدد خوارزميات الرؤية الحاسوبية الشذوذ في التربة الذي يشير إلى وجود ذخائر غير منفجرة. الدقة التي تم تحقيقها تفوق دقة العين البشرية المتعبة، مما يسمح برسم خرائط "المناطق الحمراء" وإعادة الأراضي القابلة للزراعة للمجتمعات في وقت قياسي.

2. معضلة "الاستعمار الرقمي": الموافقة والإكراه

إذا كان الذكاء الاصطناعي أداة قوية، فهو أيضاً نهم. يتغذى على البيانات. وفي سياق إنساني، فإن استخراج هذه البيانات يثير قضايا أخلاقية تتجاوز بكثير خصوصية البيانات القياسية.

مفارقة الموافقة المستنيرة

تثير Giving Compass (givingcompass.org) نقطة حاسمة من خلال تحليل حالات مثل حالة اليمن. هل من المنطقي الحديث عن "موافقة مستنيرة" عندما يكون البديل هو الجوع؟ إذا قالت وكالة إنسانية: "لتلقي الحصة الشهرية من الطعام، يجب أن تسمح لنا بمسح قزحية عينك وإدخالك في قاعدة البيانات البيومترية العالمية الخاصة بنا"، فإن اللاجئ لا يملك خياراً حقيقياً. سيفعل ذلك من أجل البقاء. تحول هذه الديناميكية جمع البيانات إلى شكل من أشكال الإكراه. تصبح أجساد الأشخاص الضعفاء مناجم بيانات يتم استخراجها، مما يخلق علاقة قوة غير متوازنة للغاية يصفها العديد من الباحثين بـ الاستعمار الرقمي: يتم استخراج البيانات في "جنوب العالم"، ومعالجتها وتحويلها إلى أموال من قبل شركات التكنولوجيا في "الشمال"، واستخدامها لاتخاذ قرارات تعود مرة أخرى على الجنوب، غالباً دون أي شفافية خوارزمية.

"وعاء العسل" للبيانات البيومترية

إن مركزية البيانات البيومترية (القزحية، بصمات الأصابع، الوجه) لملايين اللاجئين تخلق هدفاً لا يقاوم ("وعاء عسل") للجهات الخبيثة. يحذر Wilton Park (wiltonpark.org.uk) من أنه في سياقات الحرب الأهلية أو الاضطهاد العرقي، غالباً ما يكون إخفاء الهوية هو الدفاع الوحيد المتبقي. إذا تم اختراق قاعدة بيانات إنسانية أو، والأسوأ، الاستيلاء عليها من قبل حكومة معادية أو ميليشيا، فإن قائمة المستفيدين تلك تتحول على الفور إلى "قائمة قتل". يضعف الذكاء الاصطناعي، بقدرته على إعادة تحديد هوية الأشخاص من خلال عبور بيانات تبدو مجهولة المصدر (مثل موقع الهاتف المحمول والمنشورات على وسائل التواصل الاجتماعي)، هذا الدرع الواقي بشكل أكبر. يتم اختبار مبدأ "عدم الإضرار" (Do No Harm) بشدة من قبل التكنولوجيا نفسها التي من المفترض أن تساعد.

3. التحيزات الخوارزمية: عندما تميز الرياضيات

كما نتعمق غالباً في La Bussola، فإن التحيزات الخوارزمية ليست مجرد أخطاء تقنية ("أعطال")، بل هي مرآة للتفاوتات الاجتماعية والتاريخية. في أزمة إنسانية، لا يحرمك التحيز من قرض بنكي؛ بل يحرمك من البقاء.

تمييز غير مرئي في الفرز

تخيل خوارزمية مصممة للفرز الطبي في مستشفى ميداني مكتظ. إذا تم تدريب الذكاء الاصطناعي على بيانات صحية تاريخية غربية أو على بيانات محلية تعكس تمييزاً سابقاً (مثل وصول أقل للرعاية لمجموعة عرقية معينة)، فقد يتعلم النموذج أن تلك المجموعة العرقية لديها "معدلات بقاء أقل" أو "احتمالات تعافٍ أقل". ونتيجة لذلك، قد تعطي الخوارزمية تلك المجموعة درجة أولوية أقل، موصية بعدم إهدار الموارد الشحيحة عليهم. الذكاء الاصطناعي يحقق فقط الكفاءة الإحصائية القصوى، لكنه أخلاقياً يقوم بأتمتة تحسين النسل. كما أبرز MOAS (moas.eu)، دون مراجعة مستمرة لبيانات التدريب، فإننا نخاطر بتشفير العنصرية والإقصاء الاجتماعي مباشرة في برنامج الإغاثة.

الفجوة الرقمية واختفاء الفقراء

يعتمد الذكاء الاصطناعي على البيانات الرقمية. ولكن من يولد البيانات الرقمية في أزمة؟ من لديه هاتف ذكي، من متصل. وهذا يخلق تحيزاً هائلاً في التمثيل. غالباً ما تكون النساء وكبار السن وذوو الإعاقة وأفقر السكان الريفيين "غير مرئيين" لأجهزة الاستشعار الرقمية. ستقوم خوارزمية تعمل على رسم خرائط للاحتياجات بناءً على إشارات الهواتف المحمولة أو منشورات وسائل التواصل الاجتماعي برؤية الجزء الأكثر ثراءً وذكورية فقط من السكان المتضررين، متجاهلة تماماً الأكثر ضعفاً. يخاطر الذكاء الاصطناعي بتوجيه المساعدات نحو من لديهم صوت رقمي، ويترك من هم في العالم التناظري ليموتوا.

4. الإنسان في الحلقة: ضرورة الحكم البشري

في مواجهة هذه المخاطر الوجودية، يتفق المجتمع الدولي والعلمي: لا يمكن ولا يجب أن يقرر الذكاء الاصطناعي بمفرده.

قرارات حياة أو موت

يحدد آلية المشورة العلمية التابعة للمفوضية الأوروبية (scientificadvice.eu) مبدأً لا يمكن تجاوزه: في المراحل الحادة للأزمة، يجب أن يكون للقرارات الحرجة ("قرارات الحياة والموت") دائماً إشراف بشري ذو مغزى (الإشراف البشري). يمكن ويجب على الذكاء الاصطناعي معالجة البيانات، وتحديد الأنماط، واقتراح الخيارات (مثل "الخيار أ ينقذ المزيد من الأشخاص ولكنه أكثر خطورة على الموظفين؛ الخيار ب آمن ولكنه أبطأ"). لكن القرار النهائي يجب أن يقع على عاتق إنسان قادر على تحمل المسؤولية الأخلاقية وفهم السياق غير القابل للتشفير (مثل هدنة غير رسمية تم التفاوض عليها شفهياً للتو، والتي لا يمكن للخوارزمية معرفتها).

المساءلة و"ذكاء الصندوق الأسود"

من المسؤول إذا سقطت طائرة بدون طيار مستقلة لتوصيل الأدوية على منزل، أو إذا استبعدت خوارزمية توزيع الطعام قرية بأكملها عن طريق الخطأ؟ يعمل اللجنة الدولية للصليب الأحمر (ICRC) (international-review.icrc.org) بلا كلل لربط استخدام الذكاء الاصطناعي بـ القانون الدولي الإنساني. الأنظمة المستقلة لا تعمل في فراغ قانوني. مشكلة "الصندوق الأسود" – أي خوارزميات التعلم العميق المعقدة جداً لدرجة أن مبتكريها لا يستطيعون شرح كيفية وصولهم إلى نتيجة – غير مقبولة في القطاع الإنساني. يجب أن تكون المنظمات قادرة على شرح لأم لماذا تم استبعاد عائلتها من المساعدات. إجابة "الكمبيوتر قرر ذلك" تنتهك الكرامة الإنسانية.

هذه الحاجة للشفافية تعيدنا إلى موضوع الحوكمة الديمقراطية للتكنولوجيا، الذي نستكشفه بالتفصيل في مقالنا عن الذكاء الاصطناعي والحوكمة: بين اليوتوبيا والديستوبيا.

5. حالات واقعية وأفضل الممارسات: نحو ذكاء اصطناعي مسؤول

على الرغم من الظلال، هناك أضواء. هناك أمثلة ملموسة لكيفية دمج الأخلاق في الكود منذ البداية ("الأخلاق بالتصميم").

مكافحة "وباء المعلومات" بالذكاء الاصطناعي

خلال الأزمات الصحية (مثل إيبولا أو كوفيد-19) أو النزاعات، تقتل الأخبار المزيفة بقدر ما تقتل الفيروسات أو الرصاص. تذكر مؤسسة أمّة (ummafoundation.org) مشاريع الأمم المتحدة (مثل Global Pulse) التي تستخدم معال