المراقبة الجماعية والذكاء الاصطناعي: كيفية الدفاع عن النفس في مجتمع مترابط للغاية
آنا تَتَظاهَرُ بِسَلام، لكن الخوارزمية تُصنِّفُها كـ"مُخاطَرَة". هذا ليس من مسلسل "بلاك ميرور"، بل هو واقع مدننا الحالي. من الكاميرات الذكية إلى الشرطة التنبؤية
تشارك آنا في مظاهرة سلمية من أجل الحقوق الاجتماعية. لم تفعل شيئًا غير قانوني. لكن نظام التعرف على الوجه في المدينة يمسح وجهها، ويقارنه مع قاعدة البيانات، ويضع ملفًا لوجودها، ويسجل ارتباطاتها مع المشاركين الآخرين. تحسب خوارزميات "الشرطة التنبؤية" "درجة المخاطرة" بناءً على المشاركات السابقة، والصداقات على وسائل التواصل الاجتماعي، وأنماط التنقل. يتم تصنيفها كـ "شخص محل اهتمام". يتم إدخال هذه البيانات في نظام الشرطة الدائم. عندما تبحث عن عمل في القطاع العام، وعندما تعبر الحدود، وعندما تقرر الخوارزمية من يستحق اهتمامًا خاصًا – ستكون "درجة المخاطرة" هذه موجودة. لن تعلم آنا أبدًا أنها تمتلكها. ولن تتمكن أبدًا من الطعن فيها.
هذا ليس مستقبلًا ديستوبيًا. إنه حاضر موثق في العديد من الديمقراطيات الغربية. تستخدم شرطة لندن ميتروبوليتان التعرف على الوجه الحي. تجرب أمستردام الشرطة التنبؤية. تنفذ فرونتكس أنظمة القياسات الحيوية التلقائية. ومع قانون الذكاء الاصطناعي الأوروبي الذي تم إقراره للتو – والمحتفى به باعتباره "تنظيمًا رائدًا" – تظل العديد من ممارسات المراقبة قانونية، ببساطة مع بعض الضمانات البيروقراطية التي يمكن تجاوزها بسهولة.
السؤال لم يعد "هل المراقبة الجماعية المدعومة بالذكاء الاصطناعي قادمة؟" إنها هنا بالفعل. السؤال الحقيقي هو: كيف ندافع عن أنفسنا مع الحفاظ على الحرية والخصوصية والكرامة في مجتمع حيث يمكن تتبع كل حركة ومعاملة واتصال وتحليلها ووضع ملفات لها بواسطة خوارزميات متطورة بشكل متزايد؟
هندسة المراقبة الخوارزمية
قبل الدفاع، يجب فهم ما نحاربه. المراقبة الجماعية المدعومة بالذكاء الاصطناعي لها ثلاثة مكونات رئيسية:
التعرف البيومتري: تكنولوجيا التعرف على الوجه (FRT) تحدد الأفراد من الصور/الفيديو. تمسح الأنظمة الحية الوجوه في الوقت الفعلي في الأماكن العامة – المحطات، الساحات، المظاهرات. زادت الدقة بشكل كبير مع التعلم العميق. تستخدم شرطة لندن ميتروبوليتان نظام FRT الحي بشكل روتيني على الرغم من المعارضة العامة الهائلة.
ليس الوجوه فقط: التعرف على المشية، التعرف على الصوت، القياسات الحيوية السلوكية (نمط الكتابة، حركة الماوس). كل سمة جسدية تصبح معرّفًا يمكن تتبعه.
الشرطة التنبؤية: تحلل الخوارزميات البيانات التاريخية للجريمة، والديموغرافية، والاجتماعية الاقتصادية للتنبؤ بمكان/وقت حدوث الجرائم، ومن المرجح أن يرتكبها. أعرب البرلمان الأوروبي عن معارضته لكن التنفيذ يستمر في العديد من الدول الأعضاء.
المشكلة ليست فقط الدقة (منخفضة بشكل معروف، مع تحيزات عرقية موثقة) ولكن افتراض الإدانة بناءً على أنماط إحصائية. معاقبة جرائم لم ترتكب بعد من قبل أشخاص لم يدانوا أبدًا. تقرير الأقلية ليس خيالًا علميًا بل سياسة نشطة.
الملف الآلي: تجمع الخوارزميات البيانات المجزأة – معاملات بطاقة الائتمان، تحركات GPS، الإعجابات على وسائل التواصل، عمليات البحث على الويب، المشتريات عبر الإنترنت، تفاعلات إنترنت الأشياء – لبناء ملفات تفصيلية للسلوكيات، التفضيلات، نقاط الضعف، الميول السياسية. يُستخدم لتدريب أنظمة الذكاء الاصطناعي غالبًا دون موافقة صريحة مستنيرة.
تُباع الملفات لوسطاء البيانات، وتُشارك مع الحكومات، وتُستخدم في الإعلانات المستهدفة التلاعبية، والتمييز الخوارزمي في التأمين/الائتمان/العمل. توثق برايفسي إنترناشيونال "الفراغ القانوني" حيث تنتج الممارسات القانونية تقنيًا مراقبة جماعية فعلية.
كما نوقش في المقال حول التحيزات الخوارزمية، فإن الأنظمة المدربة على بيانات تاريخية تضخم التمييز القائم، وتستهدف الأقليات بشكل غير متناسب.
الاستبداد الرقمي: عندما يصبح الذكاء الاصطناعي سلاحًا للقمع
تسلح الأنظمة الاستبدادية الذكاء الاصطناعي لمراقبة ووضع ملفات وقمع المعارضة. لكن الحد الفاصل بين الديمقراطيات والاستبداد أقل وضوحًا مما نعتقد براحة.
الصين: نظام الائتمان الاجتماعي، التعرف على الوجه في كل مكان، الرقابة الآلية للمحتوى. روسيا: مراقبة النشطاء، التسلل إلى الاتصالات المشفرة، تحديد هوية المشاركين في الاحتجاجات. السعودية: برنامج التجسس بيغاسوس على المعارضين، الصحفيين، المدافعين عن حقوق الإنسان.
ولكن أيضًا: شرطة لندن ميتروبوليتان تستخدم FRT دون موافقة عامة. الولايات المتحدة تستخدم الشرطة التنبؤية لاستهداف المجتمعات الأفروأمريكية. الاتحاد الأوروبي يقترح "مراقبة الدردشة" للمسح الآلي للاتصالات الخاصة. إسرائيل تستخدم المراقبة البيومترية للفلسطينيين في الأراضي المحتلة.
تقرير أكسفورد لحوكمة الذكاء الاصطناعي يوثق: الديمقراطيات تتبنى أدوات الاستبداد الرقمي مبررة إياها بالأمن، ومكافحة الإرهاب، وحماية القاصرين. منحدر زلق خطير للغاية.
قضية جلوكين ضد روسيا (المحكمة الأوروبية لحقوق الإنسان): دراسة قانونية تحلل استخدام FRT ضد المشاركين في احتجاجات سلمية. قررت المحكمة انتهاك الحقوق الأساسية لكن التنفيذ محدود، والممارسات تستمر.
الحملة الأوروبية ضد مراقبة الدردشة: تحاربها تحالف مدني يقترح الاتحاد الأوروبي المسح الآلي لجميع الاتصالات الخاصة للبحث عن محتوى غير قانوني. المخاطر: إيجابيات كاذبة جماعية (صورة طفل في الحمام = إساءة للأطفال؟)، نهاية خصوصية الاتصالات، سابقة للمراقبة الشاملة.
كما أبرز المقال حول الذكاء الاصطناعي واللغة، عندما يتحكم السلطة في الاتصال، يتحكم في الفكر. المسح الآلي للرسائل هو بانوبتيكون لغوي.
قانون الذكاء الاصطناعي: انتصار جزئي، ثغرات متعددة
قانون الذكاء الاصطناعي الأوروبي 2024 محتفى به باعتباره "أول تنظيم شامل للذكاء الاصطناعي في العالم". لكن تحليل EDRi يسلط الضوء على حدود مدمرة:
استثناءات الأمن القومي: يمكن للدول الأعضاء التحلل من أي قيود تقريبًا باستدعاء الأمن القومي. تعريف غامض، تفسير واسع، رقابة دنيا.
التعريف البيومتري "بعد الواقع" مسموح: FRT الحي في الوقت الفعلي محظور نظريًا إلا في حالات استثنائية. لكن التعريف "بعد الحدث عن بُعد" – مسح الحشد، التعريف لاحقًا – قانوني تمامًا. فرق تقني، تأثير المراقبة الجماعية متطابق.
الشرطة التنبؤية غير محظورة: أنظمة "تقييم المخاطر" للأفراد لإنفاذ القانون مسموحة إذا كانت "شفافة" وبـ "إشراف بشري". معايير غامضة، يمكن تجاوزها بسهولة.
تنفيذ ضعيف: عقوبات قاسية نظريًا (حتى 7% من الإيرادات العالمية) لكن التنفيذ يعتمد على سلطات وطنية بموارد محدودة، وإرادة سياسية متغيرة، وضغوط صناعية هائلة.
تقترح EDRi استراتيجيات التقاضي الاستراتيجي، حملات الدعوة، الضغط البرلماني المستمر لإغلاق الثغرات. المعركة القانونية بعيدة عن أن تكون منتصرًا فيها.
كما نوقش في المقال حول الذكاء الاصطناعي والتسويق العصبي، فإن التنظيم الضعيف يسمح للممارسات المشكوك فيها أخلاقيًا بالبقاء قانونية تقنيًا.
الدفاع الفردي: النظافة الرقمية اليومية
العمل السياسي الجماعي أساسي لكن الدفاع الشخصي الفوري مطلوب أيضًا. موضوع r/privacy شامل جدًا يقدم نظرة عامة على الاستراتيجيات:
1. نمذجة التهديد الواقعية لا حاجة للبارانويا الكاملة. حدد تهديدات محددة ذات صلة بك: مراقبة حكومية؟ تتبع شركات؟ ملاحقة شخصية؟ حسّن دفاعاتك على مخاطر حقيقية وليست مجردة.
2. تشفير الاتصالات
- المراسلة: Signal (مشفرة من طرف لطرف، بيانات وصفية دنيا، مفتوحة المصدر ومدققة)
- البريد الإلكتروني: ProtonMail، Tutanota (مشفرة عند التخزين، ولايات قضائية صديقة للخصوصية)
- التخزين السحابي: Tresorit، Sync.com (تشفير عدم المعرفة)
- شبكات VPN موثوقة: Mullvad، IVPN (سياسة عدم حفظ السجلات مثبتة، قبول مدفوعات مجهولة)
3. متصفح يركز على الخصوصية
- Firefox + uBlock Origin + HTTPS Everywhere + Privacy Badger
- Brave (قائم على Chromium لكن يركز على الخصوصية)
- متصفح Tor للخصوصية الجادة (بطيء لكن فعال)
4. أنظمة تشغيل محصنة
- Linux (Tails لأقصى خصوصية، Qubes OS للتجزئة)
- GrapheneOS لنظام Android (يركز على الخصوصية/الأمان، خدمات Google اختيارية)
- تجنب Windows/MacOS للأنشطة الحساسة
5. تقليل البيانات البيومترية
- أقنعة/نظارات مضادة لـ FRT في المظاهرات (فعالية متغيرة، معقد قانونيًا)
- تجنب جمع القياسات الحيوية طوعًا (Face ID، بصمة الصوت) عند توفر بدائل
- الانسحاب من قواعد بيانات FRT التجارية حيثما أمكن قانونيًا (Clearview AI، PimEyes)
6. نظافة وسائل التواصل الاجتماعي
- أسماء مستعارة غير قابلة للربط بالهوية الحقيقية
- معلومات ملف شخصي دنيا/زائفة
- تعطيل تحديد الموقع الجغرافي دائمًا
- فصل صارم بين الحياة الشخصية/المهنية/النشاطية
- افتراض أن كل شيء عام ويمكن فهرسته بشكل دائم
7. مدفوعات تحافظ على الخصوصية
- النقد عند الإمكان (لا يزال الأفضل لخصوصية المعاملات)
- بطاقات مسبقة الدفع تستخدم مرة واحدة
- عملات مشفرة تركز على الخصوصية (Monero) للمشتريات الحساسة عبر الإنترنت
- تجنب بطاقات الولاء التي تتبع كل عملية شراء
8. Mobile Verification Toolkit أداة مفتوحة المصدر تفحص الهواتف الذكية بحثًا عن برامج تجسس (Pegasus، NSO). أساسية للنشطاء، الصحفيين، المعارضين المستهدفين من الأنظمة.
كما أبرز المقال حول التعلم الشخصي بالذكاء الاصطناعي في المدرسة، عندما تجمع الأنظمة البيانات باستمرار، يجب أن نكون مدركين لما نشاركه.
الدفاع الجماعي: تنظيم المرونة الاجتماعية
لكن الدفاع الفردي البحت غير كافٍ. حملات جماعية ضرورية:
1. الدعوة التشريعية حملة "Protect Not Surveil" تطالب بـ:
- حظر كامل لـ FRT الحي في الأماكن العامة
- حظر الشرطة التنبؤية القائمة على وضع ملفات عرقية/اجتماعية
- شفافية إلزامية لخوارزميات إنفاذ القانون
- حقوق الطعن في القرارات الآلية
- عقوبات صارمة على الانتهاكات التي يتم التحقق منها بشكل مستقل
2. التقاضي الاستراتيجي La Bussola dell'IA · Articoli · Rubriche