أزمة صور غروك من منظور قانوني

منذ نهاية الشهر الماضي، استجاب برنامج الدردشة الآلي “غروك” التابع لشركة “إكس”، الذي يعمل بالذكاء الاصطناعي، لطلبات العديد من المستخدمين بتصوير أشخاص حقيقيين عراةً، وذلك بتحويل صورهم إلى مواد إباحية صريحة.

وبعد أن بدأ المستخدمون باستخدام هذه الخاصية، واجهت الشركة تدقيقًا عالميًا لتمكينها المستخدمين من إنشاء صور إباحية صريحة لأشخاص حقيقيين دون رضاهم. ونشر حساب “غروك” آلاف الصور “العارية” والموحية جنسيًّا كل ساعة. والأكثر إثارة للقلق، أن “غروك” أنشأ صورًا ومواد إباحية صريحة لقاصرين.

ردت شركة “إكس” بإلقاء اللوم على مستخدمي المنصة. وأصدرت الشركة بيانًا في 3 يناير الحالي، جاء فيه: أي شخص يستخدم “غروك” أو يحرضه على إنشاء محتوى غير قانوني سيتعرض لنفس العواقب، كما لو قام بتحميل محتوى غير قانوني.

ولم يتضح بعد ما إذا كانت الشركة اتخذت إجراءات ضد أي من المستخدمين.

وفي هذا الإطار، رأى واين أونغر الأستاذ المشارك في القانون بجامعة كوينيبياك في مقال تحليلي بموقع “ذا كونفرذيشن” الإخباري أن هذا التدفق الهائل من الصور غير الرضائية هو نتيجة متوقعة لمزيج من سياسات إدارة المحتوى المتساهلة لشركة “إكس”، وإمكانية الوصول إلى أدوات الذكاء الاصطناعي التوليدية القوية، وفيما يلي نستعرض المقال:

• استهداف المستخدمين

أدى التطور السريع للذكاء الاصطناعي التوليدي إلى ظهور عدد لا يحصى من المواقع الإلكترونية والتطبيقات وبرامج الدردشة الآلية التي تتيح للمستخدمين إنتاج مواد إباحية صريحة، بما في ذلك “تعرية” صور أطفال حقيقيين.

إلا أن هذه التطبيقات والمواقع الإلكترونية ليست معروفة أو مستخدمة على نطاق واسع مثل منصات التواصل الاجتماعي الرئيسية مثل إكس. وقد سارعت المجالس التشريعية للولايات الأمريكية والكونجرس إلى حد ما للاستجابة لهذا الوضع. ففي مايو 2025، سنّ الكونجرس قانون “إزالة المحتوى”، الذي يُجرّم نشر مواد إباحية صريحة لأشخاص حقيقيين دون موافقة بالإضافة إلى الصور التي يُنشئها الذكاء الاصطناعي أو الحاسوب لأشخاص يمكن التعرف عليهم.

وتنطبق هذه الأحكام الجنائية على الأفراد الذين ينشرون المحتوى الجنسي الصريح، وليس على المنصات التي تنشره مثل مواقع التواصل الاجتماعي. ومع ذلك، تنص أحكام أخرى من قانون إزالة المحتوى على إلزام المنصات بوضع آلية تُمكن الأشخاص الظاهرين في الصور من طلب إزالتها. وبمجرد تقديم طلب الإزالة، يجب على المنصة إزالة المحتوى الجنسي الصريح خلال 48 ساعة، لكن هذه الأحكام ستدخل حيز التنفيذ في 19 مايو المقبل.

• مشاكل مع المنصات

في غضون ذلك، يبدو أن طلبات المستخدمين لإزالة الصور الجنسية الصريحة التي أنتجها تطبيق “غروك” لم تلق أي استجابة، حتى آشلي سانت كلير، والدة أحد أبناء مالك المنصة إيلون ماسك، لم تتمكن من إقناع “إكس” بإزالة الصور الجنسية الزائفة التي نشرها معجبو ماسك باستخدام “غروك”. وذكرت صحيفة “جارديان” البريطانية أن سانت كلير قالت إن “شكواها لموظفي إكس لم تُجد نفعًا”.

لا يُفاجئني هذا الأمر، لأن ماسك قام بإلغاء فريق الثقة والأمان الاستشاري في تويتر (إكس حاليًا) بعد فترة وجيزة من استحواذه على المنصة، وفصل 80% من مهندسي الشركة المُخصصين للثقة والأمان. وعادةً ما تكون فرق الثقة والأمان مسؤولة عن مراقبة المحتوى ومبادرات منع إساءة الاستخدام في شركات التكنولوجيا.

ويبدو علنًا أن ماسك قد استخف بخطورة الموقف. فقد أفادت التقارير بأن ماسك نشر رموزًا تعبيرية تجمع بين الضحك والبكاء ردًا على بعض الصور، وردت شركة “إكس” على استفسار مراسل وكالة رويترز بالرد التلقائي “أكاذيب الإعلام التقليدي”.

• حدود الدعاوى القضائية

تُعدّ الدعاوى المدنية، كالدعوى التي رفعها والدا آدم راين، المراهق الذي انتحر في أبريل الماضي بعد تفاعله مع برنامج “شات جي بي تي” التابع لشركة “أوبن إيه آي”، إحدى الوسائل لمحاسبة المنصات. إلا أن الدعاوى القضائية تواجه صعوبات جمّة في الولايات المتحدة نظرًا للمادة 230 من قانون آداب الاتصالات، التي تُحصن منصات التواصل الاجتماعي عمومًا من المسؤولية القانونية عن المحتوى الذي ينشره المستخدمون على منصاتها.

مع ذلك، جادل قاضي المحكمة العليا كلارنس توماس والعديد من الفقهاء القانونيين بأن المادة 230 طُبّقت على نطاق واسع جدًّا من قبل المحاكم. وأتفق عمومًا مع ضرورة تضييق نطاق الحصانة التي تمنحها المادة 230، لأن إعفاء شركات التكنولوجيا ومنصاتها من المسؤولية عن خيارات التصميم المتعمدة – ككيفية بناء برامجها، وكيفية تشغيلها، وما تُنتجه – يقع خارج نطاق حماية المادة 230.

في الحالة الراهنة، تقاعست شركة إكس بقصد أو غير قصد، عن تطبيق إجراءات الحماية والضوابط في “غروك” لمنع المستخدمين من إنشاء صور جنسية صريحة لأشخاص يمكن التعرف عليهم.

وأعتقد أنه لا ينبغي بأي حال من الأحوال أن يفلت إكس من المساءلة عن تصميم تطبيق ينتج مواد جنسية صريحة لأطفال حقيقيين.

• تحرك الجهات التنظيمية

إذا لم يتمكن الأفراد من محاسبة منصات مثل “إكس” عبر الدعاوى المدنية، فإن الأمر يقع على عاتق الحكومة الفيدرالية للتحقيق مع المنصة وتنظيمها. فعلى سبيل المثال، يمكن للجنة التجارة الفيدرالية أو وزارة العدل أو الكونجرس التحقيق مع “إكس” بسبب قيام “غروك” بإنتاج مواد إباحية جنسية دون موافقة أصحابها.

ولكن مع تجدد علاقات إيلون ماسك السياسية بالرئيس الأمريكي دونالد ترامب، من غير المتوقع أي تحقيقات جادة أو محاسبة في أي وقت قريب، بينما في الوقت الراهن، بدأت الهيئات التنظيمية الدولية تحقيقات ضد “إكس” و”غروك”.

فقد شرعت السلطات الفرنسية في تحقيقات حول “انتشار مقاطع الفيديو الجنسية المفبركة بتقنية التزييف العميق” من “غروك”، وحثّ المجلس الأيرلندي للحريات المدنية ومنظمة الحقوق الرقمية في أيرلندا الشرطة الوطنية الأيرلندية بشدة على التحقيق في “موجة التعري الجماعي”.

وأعلنت هيئة تنظيم الاتصالات في المملكة المتحدة أنها تحقق في الأمر، وتفيد التقارير بأن الهيئات التنظيمية في المفوضية الأوروبية والهند وماليزيا تحقق مع إكس أيضًا. وفي الولايات المتحدة، ربما يكون أفضل مسار للعمل حتى يدخل قانون “إزالة المحتوى” حيز التنفيذ في مايو المقبل هو مطالبة المسؤولين المنتخبين باتخاذ إجراءات.