تعد منصة يوتيوب المنصة الأكثر شعبية فيما يتعلق بمشاركة مقاطع الفيديو ونشرها، فهي نافذة رئيسية لصناع المحتوى لعرض إنتاجهم، وكذلك لجمهور المشاهدين الذين يقبلون على زيارة الموقع لمتابعة ما يرغبون في مشاهدته في الوقت الملائم لهم، وهو ما جعل يوتيوب ثاني أكثر مواقع الإنترنت زيارة في العالم، بمعدل زيارات شهرية تبلغ 34,6 مليار زيارة، وفقا لإحصاءات موقع “فيجوال كابيتاليست- Visual Capitalist”.
وتلعب خوارزمية يوتيوب التي تعمل على ترشيح مقاطع فيديو لرواد المنصة، دورًا بارزًا كونها تقف وراء 70% من وقت المشاهدة على النظام الأساسي، أي ما يقدر بنحو 700 مليون ساعة كل يوم، لكنها في ذات الوقت مثار للعديد من الإشكاليات، حيث تُعرِّضَ المستخدمين من جميع أنحاء العالم في كثير من الأحيان إلى محتوى غير لائق ومعلومات صحية خاطئة، وخطابات كراهية وتطرف وغيرها من المحتويات المؤسفة.
ومع تسليط الجهود البحثية الضوء مؤخرًا على تلك الإشكالية، أكدت إدارة يوتيوب إجراءها نحو 30 تغييرًا في أسلوب عمل المنصة، مشددة على أن النظام الآلي حاليًا يكشف ويحذف 94% من مقاطع الفيديو التي تنتهك سياسات يوتيوب قبل أن تسجل 10 مشاهدات.
تحقيق موسع حول توصيات خوارزمية يوتيوب
وفي هذا الإطار، أجرت مؤسسة ” Mozilla Foundation ” غير الربحية دراسة لفهم الأضرار التي يمكن أن تلحقها خوارزمية يوتيوب بالمستخدمين.
واعتمدت الدراسة على جهود 37380 متطوعًا من مستخدمي يوتيوب زودوا فريق البحث ببيانات حول التجارب المؤسفة التي مروا بها على المنصة، ما جعلها تمثل أكبر تحقيق جماعي في خوارزمية يوتيوب. وقد أبلغ هؤلاء المتطوعون عن 3362 مقطع فيديو يعد غير لائق من 91 دولة خلال الفترة ما بين يوليو 2020 ومايو 2021.
ووصفت الدراسة مقاطع الفيديو المثيرة للمشاكل بـ “YouTube Regrets”، والتي تدل على أي تجربة مؤسفة مر بها الأشخاص عبر يوتيوب، وقد تمحورت حول مقاطع فيديو تدافع عن معلومات زائفة، وتروج لمؤامرات حول هجمات 11 سبتمبر 2001، وتشجع نظرية تفوق العنصر الأبيض.
وخلصت الدراسة إلى ثلاث نتائج رئيسية:
- تعدد التجارب المؤسفة على يوتيوب: أبلغ المتطوعون عن محتوى سيئ يشمل كل المجالات بدءًا من الترويج لمشاعر الخوف من فيروس كورونا، مرورا بالمعلومات السياسية المضللة، وصولا إلى رسوم كرتونية غير لائقة.
- الخوارزمية هي المشكلة: 71% من حالات الأسف جاءت من مقاطع الفيديو الموصى بها للمتطوعين من خلال نظام التوصية التلقائي في يوتيوب، وعلاوة على ذلك، كانت مقاطع الفيديو الموصى بها أكثر عُرضة للإبلاغ عنها بنسبة 40%. وفي العديد من الحالات، أوصى يوتيوب بمقاطع الفيديو التي تنتهك بالفعل إرشادات الاستخدام الخاصة به أو لا علاقة لها بمقاطع الفيديو السابقة التي تمت مشاهدتها.
- المتحدثون بغير اللغة الإنجليزية هم الأكثر تضررًا: فالأسف كان أعلى بنسبة 60% في البلدان التي لا تتحدث اللغة الإنجليزية كلغة أساسية (مع ارتفاع معدلات البرازيل وألمانيا وفرنسا بشكل خاص)، وكان الأسف المرتبط بمقاطع خاصة بالوباء أكثر شيوعًا في اللغات غير الإنجليزية.
ونوهت الدراسة إلى أن ما يجعل مقاطع الفيديو محل توصية بالمشاهدة هو قدرتها على الانتشار الفيروسي، فنظرًا لأن مقاطع الفيديو ذات المحتوى الضار تستطيع جمع آلاف بل ملايين المشاهدات، تقوم خوارزمية التوصية بتعميمها على المستخدمين، بدلاً من التركيز على اهتماماتهم الشخصية.
كما خلصت الدراسة إلى أن سياسات وممارسات يوتيوب، بما في ذلك تصميم وتشغيل خوارزميات التوصيات الخاصة بالمنصة مسؤولة -جزئيًا على الأقل- عن التجارب المؤسفة التي مر بها المتطوعون المشاركون في الدراسة، لذلك أكدت أنه من دون إتاحة الفرصة لمزيد من التدقيق في خوارزميات يوتيوب، ستستمر هذه المشكلات دون رادع وستتزايد عواقبها الخطيرة على المجتمعات.
توصيات الدراسة
لفتت الدراسة إلى أنه على الرغم من التقدم الذي تقول منصة يوتيوب إنها أحرزته بشأن التغلب على هذه المشكلات، فإنه لا يزال من المستحيل تقريبًا على الباحثين التحقق من صحة ذلك، وعلى هذا النحو قدمت الدراسة حزمة من التوصيات تتمثل في الآتي:
أولاً: توصيات موجهة إلى يوتيوب والأنظمة الأساسية الأخرى
- تمكين الجهات المستقلة من إجراء مراجعات لخوارزميات التوصية: فمن الضروري أن تتمكن الهيئات الرقابية والباحثون من فهم وتقييم كيفية مساهمة التصميم والممارسات التشغيلية المرتبطة بخوارزميات التوصية في التسبب بأضرار عبر الإنترنت. ولتحقيق هذه الغاية، يجب على يوتيوب والمنصات الأخرى تسهيل تلك المهمة من خلال تمكين الباحثين – بشرط الالتزام ببروتوكولات حماية البيانات والأمان – من إجراء اختبارات على أنظمة التوصية، والوصول إلى معلومات حول المقاييس المحسّنة والكود المصدري لنظام التوصية، بجانب بيانات التدريب المستخدمة لتدريب نماذج التعلم الآلي ومراجعة الوثائق المتعلقة بممارسات الثقة والأمان، حيث تساعد تلك الشفافية في ضمان القدرة على تحديد الأضرار الخفية في النظام البيئي للتوصيات، وتطوير الحلول التجارية والتنظيمية لمعالجتها.
- نشر معلومات حول كيفية عمل أنظمة التوصيات: نظرًا لدور أنظمة التوصية في تضخيم المحتوى الضار، يجب أن توفر تقارير الشفافية في يوتيوب معلومات حول التفاعل بين إجراءات تعديل المحتوى وأنظمة التوصية، حيث لا توفر المنصة في الوقت الراهن أي معلومات عن كيفية تعريف المحتوى المتخطي للحدود ومنهجيات الإشراف التي يطبقها على هذا المحتوى، على سبيل المثال، “خفض التصنيف-downranking “، و”إلغاء الأولوية- deprioritizing”، والبيانات المجمعة التي يمكن أن تساعد في تقييم المشكلات المرتبطة بهذه الفئة من المحتوى مثل عدد المرات التي يوصي فيها موقع يوتيوب بالمحتوى المتخطي للحدود ونسبته من إجمالي المحتوى على النظام الأساسي، ولرصد الفوارق الإقليمية، يجب تقسيم هذه المعلومات حسب الدولة والمنطقة الجغرافية وكذلك اللغة.
- منح رواد المنصة مزيدًا من التحكم في كيفية استخدام بياناتهم كمدخلات لإنشاء التوصيات: حيث يجب أن تسمح المنصات للأشخاص بتخصيص التوصيات أو المحتوى المعروض عليهم من أجل حماية وجودهم على النظام الأساسي، ويتم ذلك من خلال منحهم سيطرة على عناصر تحكم مثل القدرة على استبعاد بعض الكلمات الرئيسية أو فئات من المحتوى أو قنوات معينة من التوصيات.
- تنفيذ برامج إدارة مخاطر مخصصة لأنظمة التوصية: يجب أن تحدد المنصات بشكل منهجي وتقيّم وتدير بشكل مستمر المخاطر التي يتعرض لها كل من الأفراد والمصلحة العامة، والتي قد تنشأ عن تصميم أو تشغيل أو استخدام نظام التوصية، فاتباع هذا النهج الأكثر شمولاً لإدارة المخاطر، يجعل المنصات قادرة على إجراء تقييم أفضل لمخاطر الأعمال والسمعة.
- السماح للأشخاص بإلغاء الاشتراك في توصيات التخصيص: يجب أن يوفر يوتيوب للمستخدمين خيار إلغاء الاشتراك في التوصيات المخصصة لصالح تلقي توصيات مرتبة زمنيًا أو قائمة على مصطلحات بعينها، كما يجب ألا يكون الوصول إلى الخدمة مشروطًا برؤية التوصيات.
ثانيًا: توصيات لصانعي السياسات
- صياغة لوائح تلزم المنصات باتباع نهج شفاف في خوارزميات التوصيات الخاصة بهم، بالإضافة إلى أطر عمل قوية للوصول إلى البيانات تتيح البحث المستقل في منصات وسائل التواصل الاجتماعي.
- توفير الحماية للباحثين والصحفيين وغيرهم من المراقبين الذين يستخدمون طرقًا بديلة للتحقيق في خوارزميات المنصات.
ثالثًا: توصيات لمستخدمي يوتيوب
- الحصول على معلومات حول كيفية عمل توصيات يوتيوب.
- تحقق المستخدم من إعدادات البيانات الخاصة به على يوتيوب وجوجل للتأكد من أن لديه عناصر التحكم المناسبة له ولعائلته.
وختامًا، يمكن القول إن خوارزمية يوتيوب تلعب دورًا كبيرًا في تشكيل اهتمامات الأفراد والمجتمعات، ويترتب عليها أضرار كبيرة في حال نشر محتوى غير أخلاقي أو يحض على الكراهية أو يرسخ نظريات المؤامرة.
وتذهب الدراسات الأكاديمية إلى التأكيد على خطورة ترك تلك الخوارزميات تعمل دون إشراف مناسب من جانب الجهات التنظيمية لضمان عدم استغلال تلك التقنية بشكل سيئ، كما تبرز إشكالية ذات صلة بتعريف المحتوى المتخطي للحدود عند صياغة الكود الخاص بالخوارزمية أو السياسة العامة التي تحكمها.
