وجاءت المنشورات مؤيدة عنف المتطرفين الإسلاميين في العراق وأفغانستان ، بما في ذلك مقاطع فيديو للتفجيرات الانتحارية ودعوات لمهاجمة الخصوم في جميع أنحاء المنطقة وفي الغرب بحسب مراجعة لنشاط وسائل التواصل الاجتماعي بين أبريل وديسمبر. ضمت مجموعة واحدة على الأقل من المجموعات أكثر من 100000 عضو.

وفي العديد من مجموعات فيسبوك ، قامت الميليشيات السنية والشيعية المتنافسة نشر صور إباحية وصور فاحشة أخرى في الجماعات المتنافسة ليزيل فيسبوك هذه المجتمعات.

شارك أنصار الدولة الإسلامية علنًا روابط لمواقع إلكترونية بها كميات كبيرة من الدعاية الإرهابية عبر الإنترنت ، بينما نشر مستخدمو فيسبوك المؤيدون لحركة طالبان تحديثات منتظمة حول كيفية استيلاء الجماعة على أفغانستان خلال معظم عام 2021 ، وفقًا لتحليل بوليتيكو.

كثف فيسبوك استثمار أدوات الذكاء الاصطناعي لإزالة هذا المحتوي وخطاب الكراهية بأكثر من 50 لغة منذ بداية عام 2021، أخبرت الشركة بوليتيكو أنها أضافت المزيد من المتحدثين بلغات الباشتو والداري - اللغات الرئيسية المستخدمة في أفغانستان - لكنها رفضت تقديم عدد من الزيادات في الموظفين.

أظهرت الوثائق الداخلية ، التي نشرها فرانسيس هاوجين ، المخبر عن المخالفات على فيسبوك ، قبل ثلاثة أشهر ، أن باحثي الشركة حذروا من أن فيسبوك فشل بشكل روتيني في حماية مستخدميه في بعض البلدان الأكثر استقرارًا في العالم ، بما في ذلك سوريا وأفغانستان والعراق.

قال مصطفي عياد المدير التنفيذي لإفريقيا والشرق الأوسط وآسيا في معهد الحوار الاستراتيجي: من السهل العثور علي هذه الأشياء عبر الإنترنت.

تمزق العديد من البلدان في جميع أنحاء الشرق الأوسط وآسيا الوسطى بسبب العنف الطائفي ، وتحول المتطرفون الإسلاميون إلى Facebook كسلاح للترويج لأجندتهم المليئة بالكراهية وحشد المؤيدين لقضيتهم. انتشرت المئات من هذه المجموعات ، التي يتراوح حجمها من بضع مئات من الأعضاء إلى عشرات الآلاف من المستخدمين ، عبر المنصة - باللغة العربية والباشتو والداري - على مدار الثمانية عشر شهرًا الماضية.

عندما قامت بوليتيكو بوضع علامة على مجموعات الفيسبوك المفتوحة التي تروج لمحتوى متطرف إسلامي لشركة Meta ، الشركة الأم لـ Facebook قامت بإزالتها  بما في ذلك مجموعة مؤيدة لطالبان تم إنشاؤها في الربيع ونمت إلى 107000 عضو. 

وبعد ساعات من إزالتها عادت مجموعة منفصلة مؤيدة للدولة الإسلامية للظهور مرة أخرى على فيسبوك ونشرت منشورات وصور لصالح المنظمة المتطرفة المحظورة في انتهاك مباشر لشروط خدمة فيسبوك لكن تمت إزالة هذه المجموعات في النهاية بعد أن تم وضع علامة عليها أيضًا.

قال بن والترز" المتحدث باسم ميتا" في بيان: نحن ندرك أن تطبيقنا ليس مثاليًا دائمًا ، ولهذا السبب نقوم بمراجعة مجموعة من الخيارات لمواجهة هذه التحديات.

تمت كتابة الكثير من المحتوى الإسلامي المتطرف الذي يستهدف هذه البلدان التي مزقتها الحرب باللغات المحلية - وهي مشكلة قام الباحثون أيضًا بوضع علامة عليها في المستندات الداخلية التي نشرها Haugen ، الذي قدمها على أنها إفصاحات تم تقديمها إلى لجنة الأوراق المالية والبورصات وتم تقديمها إلى الكونجرس الأمريكي . استعرضت بوليتيكو و المنافذ الإخبارية الوثائق.

في أواخر عام 2020  على سبيل المثال ، اكتشف مهندسو Facebook أنه تم الإبلاغ عن 6٪ فقط من خطاب الكراهية باللغة العربية على Instagram  قبل نشرها على الإنترنت. هذا بالمقارنة مع معدل إزالة بنسبة 40 بالمائة لمواد مماثلة على Facebook. 

في أفغانستان حيث يقوم ما يقرب من خمسة ملايين شخص بتسجيل الدخول إلى المنصة كل شهر كان لدى الشركة عدد قليل من المتحدثين باللغة المحلية لمحتوى الشرطة  وفقًا لوثيقة داخلية منفصلة نُشرت في 17 ديسمبر 2020. بسبب هذا النقص في الموظفين المحليين ، أقل من تمت إزالة 1٪ من خطاب الكراهية.

استنتج باحثو فيسبوك وجود فجوة كبيرة في عملية الإبلاغ عن الخطاب باللغات المحلية من حيث اكتمال الترجمة ومع ذلك وبعد مرور عام أصبح المحتوي المؤيد لطالبان يمر عبر الشبكة بشكل روتيني.

في مجموعة Facebook المفتوحة المحذوفة الآن والتي تضم ما يقرب من 107000 عضو ، تمت مراجعتها من قبل POLITICO ، تم تحميل عشرات من مقاطع الفيديو والصور ، مع رسائل مكتوبة باللغات المحلية ، خلال معظم عام 2021 لدعم الجماعة الإسلامية التي لا تزال محظورة رسميًا من دخول منصة بسبب تصنيفها الدولي كمجموعة إرهابية.

وشمل ذلك لقطات لمقاتلي طالبان وهم يهاجمون القوات المساندة للحكومة الأفغانية المخلوعة الآن ، بينما أشاد مستخدمو طالبان الآخرون بمثل هذا العنف في تعليقات أفلتت من الاعتدال.

قال آدم هادلي مدير  Tech Against Terrorism "وهي منظمة غير ربحية تعمل مع شبكات اجتماعية أصغر" من الواضح أن هناك مشكلة هنا وأضاف أنه لم يفاجأ بأن الشبكة الاجتماعية كانت تكافح للكشف عن المحتوى المتطرف لأن مرشحات المحتوى الآلية الخاصة بها لم تكن متطورة بما يكفي للإبلاغ عن خطاب الكراهية باللغة العربية أو البشتونية أو الدارية.

معركة بين الجيوش السيبرانية

ركز جزء كبير من نشاط مجموعة Facebook الأخير على المعارك الرقمية بين الميليشيات السنية والشيعية المتنافسة عبر Facebook في العراق  وهي دولة لا تزال تعاني من العنف الطائفي المنتشر الذي انتقل إلى أكبر شبكة اجتماعية في العالم.

يأتي ذلك بعد أن أثارت وثائق داخلية منفصلة على فيسبوك من أواخر عام 2020 مخاوف من أن ما يسمى بـ "الجيوش الإلكترونية" بين الجماعات السنية والشيعية المتنافسة تستخدم المنصة في العراق لمهاجمة بعضها البعض عبر الإنترنت.

في العديد من مجموعات Facebook على مدار التسعين يومًا الماضية على الأقل ، كانت هذه المعارك تدور في الوقت الفعلي تقريبًا ، حيث قام المتطرفون المدعومون من إيران و داعش بملء مجتمعات بعضهم البعض عبر الإنترنت بصور جنسية ومحتوى رسومي آخر ، وفقًا لإياد ، معهد الحوار الاستراتيجي الباحث.

في إحداها ، التي تضمنت مسلحين من كلا طرفي القتال ، قام مسلحون عراقيون شيعة بإثارة خصوم الدولة الإسلامية بصور لنساء يرتدين ملابس ضيقة وافتراءات طائفية ، بينما في نفس المجموعة على فيسبوك ، نشر أنصار الدولة الإسلامية بالمثل مذكرات مهينة تهاجم خصومها المحليين.

قال عياد: "إنه تصيد في الأساس". "إنه يزعج أعضاء المجموعة وبالمثل يجعل شخصًا ما في اعتدال لتدوين الملاحظات ، لكن المجموعات غالبًا لا يتم حذفها. هذا ما يحدث عندما يكون هناك نقص في الإشراف على المحتوى ".