محتوى معادٍ للإسلام صادر عن الذكاء الاصطناعي على فيسبوك يستهدف مجتمع ديربورن

أثارت موجة متصاعدة من الوسائط المنشأة بوساطة الذكاء الاصطناعي والمستضافة على فيسبوك مخاوف عاجلة بشأن التطرف الرقمي، حيث ينتشر محتوى اصطناعي يصور ويدعو إلى العنف ضد المسلمين الأمريكيين عبر شبكة التواصل الاجتماعي، وفقاً لتقرير الصحفي المستقل جو ويلكينز. وتسلط هذه الظاهرة، التي تتركز بشكل كبير على أهداف داخل مدينة ديربورن بولاية ميشيغان، الضوء على نقاط الضعف المستمرة في الإشراف الآلي على المحتوى مع تزايد دمج أدوات الذكاء الاصطناعي التوليدي في شبكات التضليل الإعلامي عبر الإنترنت.

## تصاعد الوسائط الاصطناعية التي تستهدف ديربورن

وكشف تقرير جو ويلكينز أن حسابات على فيسبوك تنشر كميات كبيرة من الصور والنصوص الاصطناعية المنشأة بالذكاء الاصطناعي والمصممة لإثارة العداء ضد المجتمعات الإسلامية. وتركز المنشورات بشكل صريح على ديربورن، وهي مدينة تقع في مقاطعة وين بولاية ميشيغان، وتضم واحدة من أعلى كثافات السكان العرب والمسلمين الأمريكيين في الولايات المتحدة.

وفقاً للنتائج التي نشرها ويلكينز، يتضمن انتشار هذه المواد دعوات صريحة للقيام بأعمال عنف موجهة ضد السكان المحليين والمؤسسات الدينية. وتستغل هذه المواد الخلاصات المدفوعة بالخوارزميات لزيادة الانتشار والتفاعل إلى أقصى حد، مستفيدة من آليات المنصة التي تعطي الأولوية للمحتوى المثير للجدل أو الاستفزازي. وقد أدى التوفر الواسع لمولدات الصور القائمة على الذكاء الاصطناعي الموجهة للمستهلكين إلى تقليل المهارة الفنية المطلوبة لإنتاج صور مقنعة ومشحونة عاطفياً على نطاق واسع، مما يشكل تحدياً جديداً لفرق السلامة في وسائل التواصل الاجتماعي.

## آليات محتوى الذكاء الاصطناعي وخوارزميات المنصات

ويؤكد الانتشار السريع للوسائط الاصطناعية المعادية للإسلام الآليات الهيكلية للمنصات الرقمية الحديثة. إذ تتيح أدوات الذكاء الاصطناعي التوليدي للجهات السيئة إنتاج الآلاف من التنويعات الفريدة للصور القائمة على الكراهية، والتي تتراوح بين مشاهد الاضطرابات المدنية المفبركة والكاريكاتيرات المصممة لتصوير المسلمين الأمريكيين كتهديد للسلامة العامة.

غالباً ما تقوم محركات التوصية في وسائل التواصل الاجتماعي، المصممة لزيادة الاحتفاظ بالمستخدمين من خلال إظهار المحتوى الذي يحقق معدلات تفاعل عالية، بتضخيم المنشورات المسببة للغضب. وعندما تجذب الصور الاصطناعية المصحوبة بتعليقات تحريضية التعليقات والمشاركات والتفاعلات، قد تفسر خوارزميات المنصة هذا النشاط على أنه تفاعل عال القيمة، مما يرفع من نسبة ظهور المحتوى عبر شبكات مستخدمين أوسع.

وفي حين تحافظ شركة "ميتا" المشغلة للمنصة، وهي الشركة الأم لفيسبوك، على سياسات تحظر خطاب الكراهية والتحرش والتحريض الصريح على العنف، فإن الحجم الهائل للمحتوى المنشأ بالذكاء الاصطناعي يمكن أن يغمر مرشحات الكشف الآلي القياسية. وغالباً ما تواجه أنظمة الرؤية الحاسوبية المدربة على الصور الثابتة التقليدية صعوبة في التعرف على الصور الاصطناعية الجديدة التي تتجنب محفزات الكلمات المفتاحية النصية أو قواعد بيانات البصمات الرقمية.

## موقع ديربورن في ديناميكيات التضليل الإعلامي عبر الإنترنت

لطالما احتلت ديربورن موقعاً فريداً في الخطاب السياسي والاجتماعي الأمريكي. وتقع هذه البلدية، التي يبلغ عدد سكانها نحو 110,000 نسمة، إلى الغرب مباشرة من ديترويت، وتُعرف على نطاق واسع بأنها مركز ثقافي واقتصادي ومدني رئيسي للعرب والمسلمين الأمريكيين. وتضم المدينة العديد من المراكز الإسلامية والمساجد والمؤسسات المجتمعية، إلى جانب المعالم الثقافية مثل المتحف الوطني للعرب الأمريكيين.

وبسبب تركيبتها الديموغرافية، تم اختيار ديربورن مراراً وتكراراً كنقطة تركيز رمزية من قبل مجموعات أقصى اليمين، والمحرضين عبر الإنترنت، وأصحاب نظريات المؤامرة. وفي السنوات الأخيرة، تصدى المسؤولون المحليون ومنظمات الحقوق المدنية في ميشيغان باستمرار لحملات التضليل الرقمي التي تصور المدينة على أنها تعمل خارج الأطر القانونية للولايات المتحدة أو كمركز للمشاعر المعادية لأمريكا.

وتمثل الموجة الأخيرة من الخطاب العنيف المنشأ بالذكاء الاصطناعي تصعيداً في الأساليب المستخدمة لاستهداف المدينة. ومن خلال استبدال المنشورات النصية الثابتة أو المقالات المعاد نشرها بوسائط اصطناعية عالية التأثير، يستطيع منشئو المحتوى توليد روايات بصرية تصنع شعوراً بالتهديد المباشر والجسدي، مما يفاقم المخاوف الأمنية لدى أجهزة إنفاذ القانون المحلية والقيادات المدنية.

## إدارة المحتوى وتحديات السياسات

يأتي ظهور الدعوات العنيفة الانتشار المنشأة بالذكاء الاصطناعي في أوج نقاشات أوسع نطاقاً بشأن إدارة وسائل التواصل الاجتماعي ومعايير المحتوى الاصطناعي. وقد سنت منصات التكنولوجيا الكبرى سياسات تتطلب من المستخدمين أو أدوات الكشف الآلي وضع علامات على الوسائط المنشأة بوساطة الذكاء الاصطناعي. ومع ذلك، يظل الإنفاذ غير متسق، لا سيما عندما يتم نشر المحتوى بواسطة شبكات غير مركزية من الحسابات المؤقتة أو شبكات الحسابات الآلية (البوتات) المنسقة.

وبموجب معايير المجتمع الخاصة بـ "ميتا"، فإن المحتوى الذي يهدد بشكل مباشر بإلحاق أذى جسدي أو يحرض على العنف ضد أفراد أو مجموعات بناءً على خصائص محمية—بما في ذلك الدين والرق والأصل القومي—يكون عرضة للإزالة. ومع ذلك، أشار المدافعون عن الحقوق المدنية والباحثون الرقميون مراراً وتكراراً إلى أن خطاب الكراهية الذي يستهدف المجتمعات المسلمة غالباً ما يستمر على الشبكات الكبرى بسبب الثغرات في تدريب الإشراف ونماذج معالجة اللغة.

ويؤدي دمج الذكاء الاصطناعي التوليدي في هذه الشبكات إلى تفاقم التأخير في إنفاذ السياسات. إذ يعتمد الإشراف التقليدي على المحتوى بشكل كبير على تقنيات مطابقة التجزئة (Hash-matching)، التي تحدد النسخ المطابقة تماماً للصور الضارة المحددة سابقاً. وبما أن مولدات الذكاء الاصطناعي تنتج ملفات رقمية فريدة مع كل أمر، فإن قواعد بيانات التجزئة التقليدية تكون غير فعالة، مما يجبر المنصات على الاعتماد على تحليل سياقي أوسع أو مراجعة بشرية يدوية.

## التأثير على الحقوق المدنية والواقع الأمني

ويؤكد المدافعون عن الحقوق المدنية أن التهديدات عبر الإنترنت الموجهة إلى مواقع جغرافية محددة تحمل تداعيات خطيرة في العالم الحقيقي. وقد ربطت مجموعات المناصرة، بما في ذلك مجلس العلاقات الأمريكية الإسلامية، مراراً وتكراراً بين خطاب الكراهية الرقمي غير الخاضع للإشراف وحوادث التحيز والتخريب والتحرش الجسدي في الواقع والتي تستهدف المسلمين الأمريكيين والمؤسسات الإسلامية.

بالنسبة للسكان في ديربورن، فإن التداول الواسع للصور العنيفة يخلق أعباء أمنية متزايدة على أقسام السلامة العامة المحلية والمدارس ودور العبادة. وأشار قادة المجتمع في كثير من الأحيان إلى أن الخطاب العنيف عبر الإنترنت يجبر المؤسسات المحلية على تخصيص موارد بلدية إضافية للبنية التحتية للأمن الجسدي، وأفراد السلامة الخصوصيين، وتكثيف الدوريات الشرطية حول التجمعات المجتمعية والخدمات الدينية.

## مسؤولية المنصات والخطوات المستقبلية

مع تصاعد تطور أدوات الذكاء الاصطناعي وإتاحتها على نطاق واسع، يستمر الضغط الشعبي على شركات وسائل التواصل الاجتماعي لحماية شبكاتها من حملات الكراهية الاصطناعية في التصاعد. وقد كثف المشرعون في الولايات المتحدة والهيئات التنظيمية الدولية التدقيق في شركات التكنولوجيا فيما يتعلق بنماذج التوزيع الخوارزمي وبروتوكولات الإشراف على السلامة.

وتؤكد التطورات التي سلط التقرير الضوء عليها على التفاعل الحيوي بين التكنولوجيا الناشئة، وبنية الإشراف على المحتوى، وسلامة المجتمع. وبدون آليات كشف أكثر قوة واستراتيجيات إنفاذ استباقية مصممة خصيصاً للوسائط الاصطناعية، تواجه المنصات الرقمية خطر البقاء عرضة للحملات المنسقة المصممة لإثارة العداء ضد الفئات الهشة.

يعتمد هذا المقال على تقارير أصلية أعدها الصحفي جو ويلكينز.