بيروت، لبنان، 16 نوفمبر 2022، في إطار النسخة الخامسة من ملتقى “خبز ونت” التي عقدت في بيروت من 15 إلى 17 تشرين الثاني/نوفمبر، نُظّمت جلسة حول تحديات إدارة المحتوى في منطقة الشرق الأوسط وشمال أفريقيا، شارك فيها كل من فهمي الباحث، مدافع يمني عن الحقوق الرقمية ومدرّب أمن رقمي، والخبير الرقمي السوداني في “انترنيوز” يوسف عبد الحليم، ، إضافة إلى عبير محسن، وهي صحافية يمنية ومنسّقة في الأرشيف اليمني، إضافة إلى الخبير الرقمي التونسي الوليد الشنوفي.
استهلّ فهمي الباحث الجلسة بتعريف مفهوم “إدارة المحتوى”، وأشار إلى إنّ لكل منصة تواصل معايير نشر خاصة بها توضع للتأكّد أن ما ينشر يتوافق مع سياساتها، وأنّ هذه المنصات بدأت مؤخراً بتطوير تقنيات ذكاء اصطناعي للعمل على ذلك. كما وضع الباحث مدى قدرة هذه الخوارزميات على النجاح قيد التساؤل، خاصة في العالم العربي المليء بالتحديات، حيث قامت الخوارزميات بحذف منشورات توثّق انتهاكات حقوق الإنسان التي تحدث، لتكون دليلاً يُستند إليه في بعض القضايا.
من جهته، تحدّث عبد الحليم عن كيفية عمل الذكاء الاصطناعي والصعوبات التي نواجهها في العالم العربي، خاصة مع تعدد اللهجات وطرق التلاعب بالمحتوى وغيرها من التحديات، وشرح طريقة إدارة المحتوى التي تنقسم إلى أربعة أشكال:
-إدارة ما قبل النشر: تماماً كما يحدث في الصحف من مراجعة للمحتوى قبل نشره
-إدارة ما بعد النشر: مثل استبعاد مقالات منشورة أو تعديلها بعد النشر
-الإدارة التفاعلية: التي تعتمد على عدد البلاغات التي تأتي على المحتوى، وتكون بالتصويت
-الإدارة الفردية: وهي التي كلما لقيَ المحتوى تفاعلاً أكبر كلما ازدادت فرصه في الوصول إلى جمهور أكبر
أما الطريقة المستخدمة في إدارة المحتوى بالذكاء الاصطناعي فتعتمد على برمجة اللغات، أي تحويل الكلام إلى رموز وتحليلها. ويوضح عبد الحليم أنّ خوارزميات ‘يوتيوب’ تعتمد مثلاً على البيانات الوصفيّة، فتحلّل الصور، وتعمل على ضبط المحتوى غير اللائق، مشيراً إلى أنّه و”فيسبوك” يعملان بآلية تحديد هوية لكل نوع من أنواع المحتوى (content ID)، فيقوم بتمرير الفيديو ونشره إن لم يكن يتضمّن أيّ انتهاك. علاوة على ذلك، يوجد ما يُسمّى بـ”الحمض النووي للصورة” (photo DNA)، ويُستخدم لتحليل الصور في “يوتيوب” و”فيسبوك” قبل النشر كذلك.
وأكمل أن “وسائل التواصل تستخدم خوارزميات ضد الإرهاب، وتعتمد في عملها على قاعدة بيانات مشفرة مشتركة مع ‘يوتيوب’ و’فيسبوك’، ويمكن لشركات التكنولوجيا استخدامها”.
وأشار إخصائي الدعم التقني أن خوارزميات الذكاء الاصطناعي لديها نقص في بعض الأمور فيما يخص إدارتها للمحتوى، فـ”انستغرام” مثلاً تنقصه آليات إدارة المحتوى الجنسي والإرهابي، فيما لا يزال ‘تويتر’ يعاني مع حقوق الملكية والعنف، ويفتقر “واتساب” إلى “الحمض النووي للصورة” اللازم لفلترة المحتوى المصور الذي ينتهك حقوق الطفل قبل الإرسال.
وعن تأثير كوفيد-19 على مواقع التواصل، ذكر يوسف أنه في النصف الثاني من عام 2020، حذف “يوتيوب” 11 مليون فيديو بواسطة تقنيات الذكاء الاصطناعي. ومنذ بدء انتشار الوباء حتى الآن، أصبحت 98% من هذه المنصات تعمل تحت إدارة الذكاء الاصطناعي.
على الرغم من أن هذا يسهّل إدارة هذه المنصات، إلا أنه لا يخلو من بعض المساوئ، مثل الترويج المدفوع على فيسبوك الذي تسبقه خطوة التحقق من الخوارزميات، فيتم حظره مباشرة إذا كان سياسياً أو مرتبطاً بقضية اجتماعية معينة، فضلاً عن البلاغات الفردية لأسباب سياسية أو طائفية التي تستهدف محتوى لا يخالف بالضرورة معايير “فيسبوك”.
من جهتها، تحدثت عبير محسن العاملة في الأرشيف اليمني، وهي منصة تعمل على أرشفة انتهاكات حقوق الإنسان في اليمن، حول تجربتها التي تعتمد بشكل رئيسي على بناء قواعد بيانات مما ينشره المواطنون على الإنترنت، بالإضافة إلى إجراء تحقيقات مفتوحة المصدر في هذه البيانات، ثم يتم حفظها بسيرفرات خاصة.
“إنّ وجود أرشيف لهذا المحتوى يعني أن تكون هناك ذاكرةٌ للحرب لنقلل من إمكانية تكرارها”، تضيف محسن، مؤكدة أنّ بعض الفيديوهات والمقاطع قد تكون الدليل الوحيد على الأحداث والجرائم التي وقعت، وهذا الحذف يؤثر على سياقات العدالة ومرتكبي الجرائم.
بحسب محسن، يتمثّل التحدي الذي يواجهه فريق الأرشيف بحقيقة أنّ جزءاً كبيراً من المحتوى مفتوح المصدر غير متاح؛ فمثلاً مع بداية الحرب، كان هناك 919 قناة مهتمّة بتوثيق الانتهاكات على “يوتيوب”، حُذف 87 منها بشكل نهائي،واختفت آلاف التغريدات والمنشورات الخاصة بها.
وكخطوة استباقية للحذف، ابتكر الأرشيف اليمني طريقة للأرشفة الآلية على مواقع التواصل وحسابات المهتمين/ات بحقوق الإنسان وتوثيقها، إلا أن ذلك لا يخلو أيضاً من التحديات، خاصة أنّه يصعب أرشفة هذا الكم الهائل من المحتوى من قبل الفريق وحده، إضافة إلى الحاجة إلى مدربين/ات مختصين/ات بالأرشفة بمساعدة تقنيات الذكاء الاصطناعي ويعرفون اللهجة اليمنية ليساعدوا في التوثيق، تضيف محسن.
وتؤكد عبير أنّ المدافعين/ات عن حقوق الإنسان أخذوا على عاتقهم الكتابة والتدوين وأرشفة وثائق الحرب، وكانت وسائل التواصل المكان الوحيد الذي يمكنهم/ن العمل في مساحاته، إلا أنهم/ن تعرضوا لهجوم وحملات يقودها “الذباب الإلكتروني”. وتنوّه محسن إلى أنّ الوصول إلى هؤلاء الأشخاص للحصول على محتواهم/ن ليس بالأمر السهل، فمن الممكن أن تسقط قذيفة على جهازهم/ن المحمول أو تُخترق حساباتهم/ن.
وحول تأثير السياسة على القائمين/ات على منصات التواصل، تذكر الصحافية والعاملة في الأرشيف اليمني “أنه بعد تصنيف الحوثيين كجماعة إرهابية، حذف جزء كبير من المحتوى المذكور فيه اسم الجماعة، من دون مراجعته أو التأكد من سياقه إذا كان ينتهك المعايير أم لا، ما يمثّل مشكلة وعائقاً أمام العمل الأرشيفي الذي يؤدي إلى فقدان الكثير من البيانات والمعلومات الهامة”.
