كيف تحاول شركات التكنولوجيا تعطيل نشاط وسائل التواصل الاجتماعي الإرهابية

شكلت Google و Facebook و Twitter و Microsoft منتدى الإنترنت العالمي لمكافحة الإرهاب العام الماضي لمنع الإرهابيين من استغلال خدماتهم.

تمت إعادة طباعة المقال التالي بإذن من The Conversation ، وهو منشور عبر الإنترنت يغطي أحدث الأبحاث.

في يونيو 2017 ، أعلنت Google و Facebook و Twitter و Microsoft عن تشكيل منتدى الإنترنت العالمي لمكافحة الإرهاب (GIFCT). الهدف من هذه المبادرة التي تقودها الصناعة هو وقف استغلال الإرهابيين لخدماتها. في الآونة الأخيرة ، أشاد أعضاء GIFCT بإنجازات عامها الأول من العمليات. ولكن ، بينما يجب الاعتراف بهذا التقدم ، لا تزال هناك تحديات كبيرة.

في كل دقيقة يوجد في المتوسط 510.000 تعليق و 136.000 صورة يتم مشاركتها على Facebook و 350.000 تغريدة منشورة على Twitter و 300 ساعة من الفيديو يتم تحميلها على YouTube.

بالنظر إلى ذلك ، تعتمد أكبر الشركات بشكل كبير على الذكاء الاصطناعي (AI). تشمل استخدامات Facebook للذكاء الاصطناعي مطابقة الصور. يمنع هذا المستخدمين من تحميل صورة أو مقطع فيديو يطابق صورة أو مقطع فيديو آخر تم تحديده سابقًا على أنه إرهابي. وبالمثل ، أفاد موقع YouTube أن 98٪ من مقاطع الفيديو التي يزيلها للتطرف العنيف يتم تمييزها أيضًا بواسطة خوارزميات التعلم الآلي.

التقدم حتى الآن

تتمثل إحدى الصعوبات التي تواجهها شركات وسائل التواصل الاجتماعي في أنه إذا تم حظر مجموعة إرهابية من منصة واحدة ، فقد تنتقل ببساطة إلى منصة أخرى. استجابة لذلك ، أنشأ أعضاء GIFCT قاعدة بيانات صناعية مشتركة من "التجزئة". التجزئة هي بصمة رقمية فريدة يمكن استخدامها لتتبع النشاط الرقمي. عندما يقوم أحد أعضاء GIFCT بإزالة المحتوى المؤيد للإرهاب ، تتم مشاركة التجزئة الخاصة به مع الشركات المشاركة الأخرى لتمكينهم من حظر المحتوى على منصاتهم الخاصة.

في اجتماعها الأخير ، أعلن GIFCT أنه حتى الآن تمت إضافة 88000 علامة تجزئة إلى قاعدة البيانات. لذا فإن الكونسورتيوم يسير على الطريق الصحيح لتحقيق هدفه المتمثل في 100000 تجزئة بحلول نهاية عام 2018. خاصة وأن تسع شركات أخرى انضمت إلى الكونسورتيوم ، بما في ذلك Instagram و Justpaste.it و LinkedIn.

أدت هذه الجهود بلا شك إلى تعطيل استخدام الإرهابيين لمنصات التواصل الاجتماعي. على سبيل المثال ، في 23 شهرًا منذ 1 أغسطس 2015 ، أوقف تويتر ما يقرب من مليون حساب للترويج للإرهاب. في النصف الثاني من عام 2017 ، أزال موقع YouTube 150 ألف مقطع فيديو عن التطرف العنيف. تمت إزالة ما يقرب من نصف هذه في غضون ساعتين من التحميل.

تحديات مستقبلية

ومع ذلك ، لا يزال هناك الكثير من العمل. رداً على تعطيل استخدامهم لموقع تويتر ، حاول أنصار ما يسمى بالدولة الإسلامية (IS) التحايل على تقنية حظر المحتوى من خلال ما يُعرف بالربط الخارجي ، باستخدام روابط لمنصات أخرى. ومن المثير للاهتمام أن المواقع الأكثر شيوعًا التي يتم ربطها بروابط خارجية تتضمن justpaste.it و sendvid.com و archive.org. يبدو أن هذه استراتيجية متعمدة لاستغلال افتقار الشركات الصغيرة إلى الموارد والخبرة.

كما نقل أنصار تنظيم الدولة أنشطة بناء المجتمع إلى منصات أخرى ، ولا سيما Telegram. Telegram هي خدمة مراسلة فورية قائمة على السحابة توفر مراسلة اختيارية مشفرة من طرف إلى طرف. يعمل هذا التشفير على إيقاف قراءة الرسائل من قبل جهات خارجية. وقد تم استخدامه على نطاق واسع لمشاركة المحتوى الذي تنتجه قنوات IS الرسمية.

يشكل هذا جزءًا من حركة أوسع نحو أساليب أكثر سرية. استخدم الجهاديون خدمات المراسلة المشفرة الأخرى ، بما في ذلك WhatsApp ، للتواصل والتخطيط للهجوم. كما تم نقل مواقع الويب إلى Darknet. The Darknet هو جزء مخفي من الإنترنت مجهول بطبيعته ولا يمكن الوصول إليه إلا باستخدام برنامج تشفير متخصص. حذر تقرير صدر عام 2018 من أن منصات Darknet لديها القدرة على العمل "كملاذ آمن افتراضي" للجهاديين.

بالإضافة إلى ذلك ، توصلت الأبحاث الحديثة إلى أن مؤيدي الجماعات الجهادية بخلاف داعش يعانون من اضطراب أقل بشكل ملحوظ على تويتر. تمكن أنصار هذه المجموعات الأخرى من نشر ستة أضعاف التغريدات ، ومتابعة أربعة أضعاف الحسابات ، واكتساب 13 ضعفًا من المتابعين للحسابات المؤيدة لتنظيم الدولة الإسلامية

من المهم أيضًا الاستجابة لأشكال أخرى من التطرف العنيف. تتمتع الجماعات اليمينية المتطرفة أيضًا بحضور كبير على منصات مثل YouTube و Facebook. في حين تم اتخاذ خطوات لتعطيل وجودهم على الإنترنت ، مثل قرار Facebook بحظر بريطانيا أولاً من منصتها ، يبدو أن هذه المجموعات بدأت أيضًا في الهجرة إلى Darknet.

تجاوز

مثلما توجد قضية الوصول إلى وسائل التواصل الاجتماعي للإرهابيين ، هناك أيضًا تحديات تتعلق بالتجاوز المحتمل. لا يمكن توقع أن تحدد خوارزميات التعلم الآلي المحتوى الإرهابي بدقة 100٪. سيتم تحديد بعض المحتويات بشكل خاطئ على أنها إرهابية وسيتم حظرها أو إزالتها. لكن التحديات هنا تتجاوز مجرد تطبيق العتبة بشكل صحيح. كما أنها تتعلق بالمكان الذي يجب رسم العتبة فيه في المقام الأول.

إن الصعوبات في تعريف الإرهاب معروفة جيداً. لخصها شعار "إرهابي شخص ما هو مقاتل من أجل الحرية للآخر" ، فإن إحدى القضايا التعريفية الأكثر إثارة للجدل هي قضية القضية العادلة. هل ينبغي أن يستثني تعريف الإرهاب أولئك مثل النشطاء المؤيدين للديمقراطية في بلد يحكمه نظام قمعي واستبدادي؟ وفقًا للعديد من البلدان ، بما في ذلك المملكة المتحدة ، فإن الإجابة هي لا. وكما قال أحد قضاة محكمة الاستئناف: "الإرهاب هو الإرهاب مهما كانت دوافع مرتكبيه".

إذا اتبعت شركات التواصل الاجتماعي نهجًا مشابهًا ، فقد يكون لذلك بعض التداعيات المهمة. في الواقع ، هناك بالفعل أمثلة مقلقة. في عام 2017 ، تمت إزالة الآلاف من مقاطع الفيديو التي توثق الفظائع في سوريا من موقع YouTube باستخدام تقنية جديدة تهدف إلى الدعاية المتطرفة. قدمت مقاطع الفيديو هذه أدلة مهمة على انتهاكات حقوق الإنسان. كان بعضها موجودًا فقط على موقع YouTube ، حيث لا يمكن لجميع النشطاء السوريين ووسائل الإعلام تحمل تكلفة أرشيف غير متصل بالإنترنت. ومع ذلك ، فإن البديل - السعي للتمييز بين الأسباب العادلة وغير العادلة - محفوف بالصعوبات الخاصة به.

في الوقت الذي تواجه فيه شركات وسائل التواصل الاجتماعي ضغوطًا متزايدة لبذل المزيد من الجهد لمعالجة الاستغلال الإرهابي لمنصاتها ، فإن التقدم الذي تم إحرازه خلال العام الأول لـ GIFCT مرحب به. لكنها ليست سوى الخطوة الأولى.