المحتوى الإباحي بالذكاء الاصطناعي غير الرضائي سيجعل ضحايا منا جميعًا: هل يمكن للقانون مواكبة ذلك؟

تم نشر هذا المقال بالاشتراك مع The 19th، وهي غرفة أخبار غير ربحية تغطي النوع الاجتماعي والسياسة والسياسات. اشترك في نشرة The 19th الإخبارية هنا.

\ أصيب أكثر من عشرين طالبًا في مدرسة ويستفيلد الثانوية في نيو جيرسي بالرعب العام الماضي عندما علموا أن صورًا عارية لهم كانت تنتشر بين أقرانهم. وفقًا للمدرسة، استخدم بعض الطلاب الذكاء الاصطناعي (AI) لإنشاء صور إباحية لآخرين من صور أصلية. وهن لسن الفتيات المراهقات الوحيدات اللواتي وقعن ضحية للصور العارية المزيفة: أبلغ طلاب في ولاية واشنطن وكندا أيضًا عن مواجهة مواقف مماثلة مع تزايد إمكانية الوصول إلى القدرة على تعديل الصور بشكل واقعي عبر مواقع الويب والتطبيقات.

\ تضخم التنبيه المتزايد حول التزييف العميق - الصور أو مقاطع الفيديو التي تم إنشاؤها بواسطة الذكاء الاصطناعي - بشكل عام أكثر في يناير، حيث انتشر أحدها يتضمن النجمة تايلور سويفت بسرعة عبر وسائل التواصل الاجتماعي.

\ قالت كاري غولدبرغ، المحامية التي تمثل ضحايا المواد الإباحية غير الرضائية - المشار إليها عادة باسم الإباحية الانتقامية - منذ أكثر من عقد، إنها بدأت مؤخرًا فقط في تلقي شكاوى من ضحايا الصور التي تم إنشاؤها بواسطة الكمبيوتر.

\ قالت غولدبرغ: "شركتي تستقبل ضحايا التزييف العميق منذ حوالي خمس سنوات تقريبًا، ومعظمهم كانوا من المشاهير". "الآن، أصبح الأطفال يفعلون ذلك بالأطفال ليكونوا قساة. ربما يكون الأمر غير مبلغ عنه حقًا لأن الضحايا قد لا يعرفون أن هناك سبيل انتصاف قانوني، وليس من الواضح تمامًا في جميع الحالات ما إذا كان هناك."

\ تحاول الهيئات الحاكمة اللحاق بالركب. في العام الماضي أو نحو ذلك، أقرت 10 ولايات تشريعات لتجريم إنشاء أو نشر التزييف العميق على وجه التحديد. حددت هذه الولايات - بما في ذلك كاليفورنيا وفلوريدا وجورجيا وهاواي وإلينوي ومينيسوتا ونيويورك وداكوتا الجنوبية وتكساس وفيرجينيا - عقوبات تتراوح من الغرامات إلى السجن. من المرجح أن تنضم إنديانا قريبًا إلى القائمة المتزايدة من خلال توسيع قانونها الحالي بشأن المواد الإباحية غير الرضائية.

\ ألفت النائبة عن ولاية إنديانا شارون نيجيل، وهي جمهورية، التوسع المقترح. يعرف القانون الحالي "الإباحية الانتقامية" بأنها الكشف عن صورة حميمة، مثل أي صورة تصور الجماع الجنسي أو الأعضاء التناسلية المكشوفة أو الأرداف أو ثدي المرأة، دون موافقة الشخص المصور في الصورة. مر مشروع قانون نيجيل المقترح عبر كلا المجلسين وينتظر الآن توقيع الحاكم.

\ قالت نيجيل إنها كانت متحمسة لتحديث القانون الجنائي في إنديانا عندما سمعت قصة معلمة مدرسة ثانوية اكتشفت أن بعض طلابها قاموا بنشر صور مزيفة عميقة لها. كان الأمر "مدمرًا بشكل لا يصدق" للحياة الشخصية للمعلمة، وفوجئت نيجيل عندما رأت أنه لا يمكن مقاضاة الجناة بموجب القانون الحالي.

\ قالت نيجيل: "بدأ الأمر بتعليمي لفهم التكنولوجيا المتاحة الآن والقراءة عن حادثة تلو الأخرى من وجوه الناس التي يتم إرفاقها بجسم مختلق يبدو حقيقيًا بشكل لا يصدق وواقعيًا". "إنه أمر مؤلم للغاية. كوني أمًا وجدة والتفكير في ما يمكن أن يحدث لعائلتي ولنفسي - إنه أمر صادم. يجب أن نتقدم على هذا النوع من الأشياء."

\ قالت غولدبرغ، التي تتخصص شركة المحاماة الخاصة بها في الجرائم الجنسية، إنها تتوقع أن المزيد من الولايات ستستمر في توسيع تشريعاتها الحالية لتشمل لغة الذكاء الاصطناعي.

\ قالت غولدبرغ: "قبل عشر سنوات، كان لدى ثلاث ولايات فقط قوانين بشأن الإباحية الانتقامية أو الإساءة الجنسية القائمة على الصور". "الآن، 48 ولاية حظرت الإباحية الانتقامية، وقد أدى ذلك حقًا إلى انخفاض هائل في الإباحية الانتقامية - وليس من المستغرب - تمامًا كما قلنا نحن المدافعون أنه سيحدث. الارتفاع الكامل للتزييف العميق قد ملأ الفجوات كونه طريقة جديدة لإذلال شخص ما جنسيًا."

\ في عام 2023، تم نشر أكثر من 143,000 فيديو جديد تم إنشاؤه بواسطة الذكاء الاصطناعي عبر الإنترنت، وفقًا لوكالة أسوشيتد برس. هذه قفزة كبيرة من عام 2019، عندما كانت مواقع أو تطبيقات "التعرية" أقل شيوعًا، وكان لا يزال هناك ما يقرب من 15,000 من مقاطع الفيديو المزيفة هذه عبر الإنترنت، وفقًا لتقرير من Deeptrace Labs، وهي شركة استخبارات التهديدات البصرية. حتى في ذلك الوقت، حصدت تلك مقاطع الفيديو - والتي كان 96 بالمائة منها عبارة عن مواد إباحية غير رضائية للنساء - أكثر من 100 مليون مشاهدة.

\ قالت غولدبرغ إن صانعي السياسات والجمهور على حد سواء يبدون أكثر تحفيزًا لحظر الصور العارية التي تم إنشاؤها بواسطة الذكاء الاصطناعي على وجه التحديد لأن أي شخص تقريبًا يمكن أن يكون ضحية. هناك المزيد من التعاطف.

\ قالت غولدبرغ: "مع الإباحية الانتقامية، في الموجة الأولى من المناقشات، كان الجميع يلومون الضحية ويجعلونها تبدو وكأنها نوع من المنحرفين لالتقاط الصورة أو غبية لمشاركتها مع شخص آخر". "مع التزييف العميق، لا يمكنك حقًا لوم الضحية لأن الشيء الوحيد الذي فعلوه هو أن يكون لديهم جسد."

\ قالت أماندا مانيامي، مستشارة الحقوق الرقمية المقيمة في جنوب إفريقيا لمنظمة Equality Now، وهي منظمة حقوق إنسان دولية تركز على مساعدة النساء والفتيات، إنه لا توجد حماية تقريبًا لضحايا التزييف العميق في الولايات المتحدة. تدرس مانيامي السياسات والقوانين في جميع أنحاء العالم، وتحلل ما يعمل وتقدم المشورة القانونية حول الحقوق الرقمية، لا سيما بشأن الاستغلال والإساءة الجنسية التي تسهلها التكنولوجيا.

\ قالت مانيامي: "أكبر فجوة هي أن الولايات المتحدة ليس لديها قانون فيدرالي". "التحدي هو أن المسألة محكومة من ولاية إلى أخرى، وبطبيعة الحال، لا يوجد توحيد أو تنسيق عندما يتعلق الأمر بالحماية."

\ ومع ذلك، هناك حاليًا دفع في الكابيتول هيل: قدمت مجموعة من أعضاء مجلس الشيوخ من الحزبين في يناير قانون تعطيل الصور المزورة الصريحة والتعديلات غير الرضائية لعام 2024 - المعروف أيضًا باسم قانون DEFIANCE. يهدف التشريع المقترح إلى وقف انتشار المحتوى الجنسي الصريح غير الرضائي.

\ قال السيناتور الجمهوري جوش هاولي، الراعي المشارك لمشروع القانون، في بيان: "لا ينبغي لأحد - لا المشاهير ولا الأمريكيين العاديين - أن يجدوا أنفسهم أبدًا مصورين في المواد الإباحية التي تم إنشاؤها بواسطة الذكاء الاصطناعي". "الأبرياء لهم الحق في الدفاع عن سمعتهم ومحاسبة الجناة في المحكمة." قدمت النائبة ألكسندريا أوكاسيو-كورتيز مشروع قانون شريك في مجلس النواب.

\ وفقًا لاستطلاع جديد من Data for Progress، قال 85 بالمائة من الناخبين المحتملين عبر الطيف السياسي إنهم يدعمون قانون DEFIANCE المقترح - مع 72 بالمائة من النساء في دعم قوي مقارنة بـ 62 بالمائة من الرجال.

\ لكن الرجال الأصغر سنًا هم أكثر عرضة لمعارضة قانون DEFIANCE، حيث قال حوالي واحد من كل خمسة رجال تحت سن 45 (22 بالمائة) إنهم يعارضون بشدة أو إلى حد ما التشريع الذي يسمح لموضوعات التزييف العميق الصريح غير الرضائي برفع دعوى قضائية ضد المنشئ.

\ قالت دانييل ديسيروث، المديرة التنفيذية لـ Data for Progress، إن هذه القضية أظهرت واحدة من "التناقضات الأكثر حدة" بين الرجال والنساء الشباب التي رأتها منذ فترة.

\ قالت ديسيروث: "يمكننا أن نقول بثقة أن النساء والرجال دون سن 45 لديهم آراء متباينة حول هذه السياسة". "هذه قضية تؤثر بشكل غير متناسب على النساء، وخاصة الشابات، اللائي هن أكثر عرضة لأن يكن ضحايا الإباحية الانتقامية. وأعتقد أن هذا هو السبب الجذري هنا حقًا."

\ قالت غولدبرغ إن إنشاء سياسات لتجريم الجهات الفاعلة السيئة هو بداية جيدة ولكنه في النهاية غير كاف. ستكون الخطوة التالية الجيدة، على حد قولها، اتخاذ إجراء قانوني يستهدف الموزعين عبر الإنترنت، مثل متجر التطبيقات وGoogle Play، الذين يقدمون منتجات تُستخدم في المقام الأول للأنشطة الإجرامية. يجب أيضًا محاسبة منصات وسائل التواصل الاجتماعي وتطبيقات المراسلة الفورية، حيث يتم توزيع هذه الصور الصريحة، أضافت غولدبرغ.

\ وافق مؤسسو #MyImageMyChoice، وهي منظمة شعبية تعمل على مساعدة ضحايا إساءة استخدام الصور الحميمة، على أنه يجب القيام بالمزيد من قبل الشركات الخاصة المشاركة في إنشاء وتوزيع هذه الصور.

\ أشار المؤسسون - صوفي كومبتون وروبن هاملين وإليزابيث وودوارد - إلى أن محركات البحث مثل Google تقود معظم إجمالي حركة مرور الويب إلى مواقع الإباحية بالتزييف العميق، بينما تعالج شركات بطاقات الائتمان مدفوعاتهم. يسمح مزودو خدمة الإنترنت للأشخاص بالوصول إليها، بينما تستضيفها خدمات رئيسية مثل Amazon وCloudflare وGithub من Microsoft. وتسمح مواقع التواصل الاجتماعي مثل X بتداول المحتوى على نطاق واسع. غيرت Google سياستها في عام 2015 وبدأت في السماح للضحايا بتقديم طلب لإزالة أجزاء فردية من المحتوى من نتائج البحث وقد وسعت منذ ذلك الحين السياسة لتشمل إساءة التزييف العميق. ومع ذلك، فإن الشركة لا تشطب بشكل منهجي مواقع العنف الجنسي القائم على الصور ومواقع إساءة التزييف العميق.

\ قال كومبتون وهاملين وودوارد في بيان لـ The 19th: "لدى شركات التكنولوجيا القدرة على حظر أو إلغاء الفهرسة أو رفض الخدمة لهذه المواقع - المواقع التي تم بناء وجودها بالكامل على انتهاك الموافقة والربح من الصدمات". "لكنهم اختاروا عدم القيام بذلك."

\ أشارت غولدبرغ إلى السرعة التي انتشر بها التزييف العميق لتايلور سويفت. تمت مشاهدة صورة واحدة تمت مشاركتها على X، المعروف سابقًا باسم Twitter، 47 مليون مرة قبل تعليق الحساب الذي نشرها. استمرت الصور في الانتشار على الرغم من جهود شركات وسائل التواصل الاجتماعي لإزالتها.

\ قالت غولدبرغ: "الصور العنيفة والكارهة للنساء لتايلور سويفت، دموية وعارية في مباراة لكرة القدم الأمريكية لفريق Kansas City Chiefs، هي رمز للمشكلة". "مدى هذا التوزيع، بما في ذلك على المواقع الرئيسية حقًا، يرسل رسالة للجميع بأنه لا بأس من إنشاء هذا المحتوى. بالنسبة لي، كانت تلك لحظة محورية ومخيفة حقًا."

\ نظرًا للطبيعة البارزة للضحية، أثار الحادث غضبًا واضحًا وواسع النطاق من معجبي سويفت وجلب انتباه الجمهور إلى القضية. قالت غولدبرغ إنها تحققت لمعرفة ما إذا كان أي من الموزعين عبر الإنترنت قد أزالوا المنتجات من متاجرهم عبر الإنترنت التي تجعل من الأسهل والأرخص إنشاء تزييف عميق جنسي صريح - وارتاحت لرؤيتهم قد فعلوا ذلك.

\ مع استمرار صانعي السياسات والمحاكم في البلاد في محاولة الاستجابة للتكنولوجيا سريعة التطور والمتاحة بشكل متزايد، قالت غولدبرغ إنه من المهم أن يستمر المشرعون في الإحالة إلى الخبراء وأولئك الذين يعملون مباشرة مع الضحايا، مثل المحامين والأخصائيين الاجتماعيين والمدافعين. يمكن أن يكون المشرعون الذين ينظمون أفكارًا مجردة أو تقنيات متقدمة بسرعة "وصفة للكارثة" خلاف ذلك، أضافت.

\ شددت مانيامي أيضًا على أهمية التحدث مباشرة إلى الناجين عند اتخاذ قرارات السياسة، لكنها أضافت أن المشرعين بحاجة أيضًا إلى التفكير بشكل أكثر شمولية حول المشكلة وعدم الانشغال كثيرًا بالتكنولوجيا المحددة - مع مخاطرة التخلف دائمًا. على سبيل المثال، قالت مانيامي إن عامة الناس بدأوا للتو في فهم المخاطر التي يشكلها الذكاء الاصطناعي والتزييف العميق - وهو شيء ساعدت في كتابة تقرير عنه في عام 2021. وبالنظر إلى المستقبل، تفكر مانيامي بالفعل في الميتافيرس - فضاء الواقع الافتراضي - حيث يبدأ المستخدمون في مواجهة حالات الاغتصاب والتحرش الجنسي والإساءة.

\ قالت مانيامي: "الكثير من القوانين المتعلقة بالإساءة الجنسية القائمة على الصور قديمة بعض الشيء لأنها تتحدث عن الإباحية الانتقامية على وجه التحديد". "تاريخيًا، كانت الإباحية الانتقامية أكثر قضية عنف منزلي، من حيث أنها شريك حميم يشارك صورة جنسية استغلالية لشريكه السابق أو الحالي. هذا ليس هو الحال دائمًا مع التزييف العميق، لذلك قد لا توفر هذه القوانين حماية كافية."

\ بالإضافة إلى ذلك، جادلت مانيامي بأن العديد من هذه السياسات تفشل في توسيع تعريف "الصورة الحميمة" للنظر في خلفيات ثقافية أو دينية متنوعة. بالنسبة لبعض النساء المسلمات، على سبيل المثال، قد يكون من المهين والمذل بنفس القدر إنشاء ونشر صور لرؤوسهن المكشوفة بدون حجاب.

\ عندما يتعلق الأمر بالحلول، أشارت مانيامي إلى الإجراءات التي يمكن أن يتخذها منشئو التطبيقات ومنظمو المنصات والمشرعون.

\ في مرحلة التصميم، يمكن تضمين المزيد من تدابير السلامة للحد من الضرر. على سبيل المثال، قالت مانيامي إن هناك بعض التطبيقات التي يمكنها التقاط صور للنساء وإزالة ملابسهن تلقائيًا بينما لا تعمل نفس الوظيفة على صور الرجال. هناك طرق في الطرف الخلفي من هذه التطبيقات لجعل من الصعب إزالة الملابس من أي شخص، بغض النظر عن جنسه.

\ ومع ذلك، بمجرد إنشاء ونشر التزييف العميق الخبيث بالفعل، قالت مانيامي إن منصات وسائل التواصل الاجتماعي والمراسلة يجب أن يكون لديها آليات أفضل لإزالة المحتوى بعد إبلاغ الضحايا عنه. في كثير من الأحيان، يتم تجاهل الضحايا الأفراد. قالت مانيامي إنها لاحظت أن شركات وسائل التواصل الاجتماعي الكبيرة هذه أكثر عرضة لإزالة هذا التزييف العميق في بلدان، مثل أستراليا، التي لديها جهات تنظيمية طرف ثالث للدفاع نيابة عن الضحايا.

\ قالت مانيامي: "يجب أن تكون هناك آليات مراقبة وإنفاذ مدرجة في أي حل". "أحد الأشياء التي نسمعها من الكثير من الناجين هو أنهم يريدون فقط إزالة صورتهم. لا يتعلق الأمر حتى بالمرور بعملية قانونية. إنهم يريدون فقط أن يختفي هذا المحتوى."

\ قالت مانيامي إنها ليست طلبًا كبيرًا جدًا للعديد من شركات التكنولوجيا والجهات التنظيمية الحكومية لأن الكثير منهم يستجيبون بسرعة بالفعل لإزالة الصور غير المناسبة التي تتضمن الأطفال. إنها مجرد مسألة توسيع هذه الأنواع من الحماية للنساء، أضافت.

\ "قلقي هو أنه كان هناك اندفاع لتنفيذ قوانين وسياسات الذكاء الاصطناعي دون النظر في ما هي بعض الأسباب الجذرية لهذه الأضرار. إنها مشكلة متعددة الطبقات، وهناك العديد من الطبقات الأخرى التي تحتاج إلى معالجة."

الاعتمادات

• ماريل باديلا لـ The 19th

الرسم التوضيحي

• رينا لي

التحرير

• فلورا بير لـ The 19th

\ نُشر أيضًا هنا

\ صورة بواسطة ستيف جونسون على Unsplash