ضحايا التزييف العميق يقاومون

من المحتمل أن أي شخص قضى لحظة في مراقبة الثرثرة السياسية الأمريكية في الأشهر الأخيرة قد واجه التوقع التالي: سيشهد عام 2024 أول انتخابات للتزييف العميق في العالم. تتطور بسرعة مولدات الفيديو والصوت AI مدعومًا بنماذج لغوية كبيرة تم استخدامها بالفعل من قبل كليهما دونالد ترمب و رون ديسانتيس الحملات الرئاسية لتشويه سمعة بعضها البعض و مزيفة للرئيس الحالي جو بايدن يبدو أنها تتكاثر بشكل منتظم. وقد سارع المشرعون المتوترون – الذين ربما يشعرون بالقلق من أن وجوههم قد تنتهي قريبًا إلى الوقوع في المستنقع الناتج عن الذكاء الاصطناعي – إلى اقتراح أكثر من اثني عشر مشروع قانون يحاول كبح جماح التزييف العميق على مستوى الولاية والمستوى الفيدرالي.

لكن المشرعين الذين يمضغون أظافرهم متأخرون عن الحزب. قد تبدو التزييفات العميقة التي تستهدف السياسيين أمرًا جديدًا، ولكن المواد الإباحية التي أنشأها الذكاء الاصطناعي، التي لا تزال تشكل الغالبية العظمى من التزييف العميق غير التوافقي، عذبت آلاف النساء لأكثر من نصف عقد، وغالبًا ما كانت قصصهن مدفونة تحت سطح الاهتمامات السائدة. تحاول مجموعة من ضحايا التزييف العميق رفع هذا الحجاب من خلال سرد الصدمة التي تعرضوا لها، والخطوات التي اتخذوها للرد ضد المعتدين عليهم، في فيلم وثائقي جديد صادم بعنوان جسد آخر.

إحدى هؤلاء النساء المستهدفات، هي إحدى قنوات بث ASMR الشهيرة التي لديها 280 ألف متابع على Twitch جيبيتحدثت مع Gizmodo عن قرارها بالاعتراف علنًا بالتزييف الجنسي العميق الذي تم إجراؤه لها. وتأمل أن تساعد منصتها في تسليط الضوء على هذه القضية التي يتم تجاهلها في كثير من الأحيان.

وقال جيبي في مقابلة مع جيزمودو: “أعتقد أننا نقضي معظم وقتنا في إقناع أنفسنا بأن الأمر ليس بالأمر الكبير وأن هناك أشياء أسوأ في العالم”. “هذه هي الطريقة التي أتعامل بها مع يومي، هو أنك لا تستطيع أن تدع الأمر يزعجك، لذا تقنع نفسك أنه ليس بهذا السوء.”

“السماع من أشخاص آخرين أنه يكون وأضافت: “هذا السيء هو مزيج من المشاعر”. “إنه أمر مريح بعض الشيء ومخيف أيضًا.”

كانت جيبي واحدة من عدة نساء في الفيلم روين تجاربهن بعد العثور على صور مزيفة لأنفسهن. الفيلم الوثائقي، الذي أخرجه المخرجان صوفي كومبتون وروبين هاملين، يتتبع إلى حد كبير حياة طالبة جامعية هندسة تدعى تايلور اكتشفت مواد إباحية مزيفة لنفسها يتم تداولها عبر الإنترنت. تايلور ليس الاسم الحقيقي للطالب. في الواقع، كل ظهورات تايلور وضحية أخرى من ضحايا التزييف العميق التي تم عرضها في الفيلم الوثائقي هي في الواقع مقاطع فيديو مزيفة تم إنشاؤها لإخفاء هوياتهم الحقيقية.

اكتشف الطالب البالغ من العمر 22 عامًا التزييف العميق بعد تلقيه رسالة مروعة على فيسبوك من صديق يقول: “أنا آسف حقًا ولكن أعتقد أنك بحاجة لرؤية هذا”. يتبع رابط PornHub.

لم تصدق تايلور الرسالة في البداية وتتساءل عما إذا كان حساب صديقتها قد تم اختراقه. قررت في النهاية النقر على الرابط وظهر وجهها منخرطًا في مواد إباحية بغلاف مقوى وهو يحدق بها مرة أخرى. علمت تايلور لاحقًا أن شخصًا ما سحب صورًا لوجهها من حساباتها على وسائل التواصل الاجتماعي وقام بتشغيلها من خلال نموذج الذكاء الاصطناعي لجعلها تظهر في ستة مقاطع فيديو جنسية مزيفة بعمق. ومما زاد الطين بلة أن الجاني وراء مقاطع الفيديو نشرها على ملف تعريف PornHub منتحلاً اسمها مع إدراج كليتها الحقيقية ومسقط رأسها.

يكشف الفيلم المروع في بعض الأحيان، الصدمة والعجز الذي يضطر ضحايا التزييف العميق إلى تحمله عند تقديم صور جنسية لأنفسهم. في حين أن معظم المحادثات ووسائل الإعلام التي تصور التزييف العميق تركز على المشاهير أو الأفراد البارزين في نظر الجمهور، جسد آخر يوضح حقيقة مثيرة للقلق: تقنية Deepfake المدعومة بنماذج لغات كبيرة قوية وسهلة الوصول إليها تعني أن وجه الجميع جاهز للاستيلاء عليه، بغض النظر عن شهرتهم.

بدلًا من اختتام الفيلم بملاحظة قاتمة، يقضي الفيلم معظم وقته في متابعة تايلور وهي تكتشف أدلة حول صورها المزيفة. في النهاية، علمت بوجود فتاة أخرى في مدرستها مستهدفة بواسطة مواد مزيفة مماثلة دون موافقتها. ثم يغوص الاثنان عميقًا في 4Chan وغيرها من بؤر الفساد العميق لاكتشاف أي أدلة يمكنهم كشف قناع معذبهم. خلال هذا النزول إلى أعماق عالم التزييف العميق، عثر تايلور على صور مزيفة لـGibi، مقدم البث على Twitch.

يتحدث Twitch Streamer

قالت جيبي، في حديثها مع Gizmodo، إنها كانت في الطرف المتلقي للعديد من مقاطع الفيديو المزيفة بعمق في هذه المرحلة ولا يمكنها حتى أن تتذكر متى اكتشفت المقطع الأول.

قالت: “كل شيء يمتزج معًا”.

بصفته أحد مستخدمي البث المباشر، واجه Gibi منذ فترة طويلة عددًا كبيرًا من المضايقات بدءًا من الرسائل النصية الجنسية وصور القضيب في أكثر من مناسبة. وقالت إن تقنية التزييف العميق تمت إضافتها تدريجيًا إلى هذا المزيج مع تطور التكنولوجيا.

وتقول إن المنتجات المزيفة في البداية لم تكن معقدة إلى هذا الحد، لكن الجودة تطورت سريعًا و”بدأت تبدو حقيقية أكثر فأكثر”.

ولكن حتى مقاطع الفيديو المزيفة بشكل واضح لا تزال قادرة على خداع البعض. تقول جيبي إنها اندهشت عندما سمعت عن أشخاص عرفتهم وقعوا في حب الصور الأولية الفظة التي تم تجميعها على عجل لها. في بعض الحالات، تقول صاحبة البث إنها سمعت عن معلنين قطعوا علاقاتهم مع منشئي محتوى آخرين تمامًا لأنهم اعتقدوا أنهم كانوا منخرطين في مواد إباحية بينما لم يكونوا كذلك.

قالت جيبي عن صديقتها التي فقدت دعم المعلنين بسبب التزييف العميق: “كانت تقول: هذا ليس أنا”.

تقول جيبي إن تفاعلاتها مع تايلور ألهمتها جزئيًا لإصدار مقطع فيديو على موقع YouTube بعنوان “التحدث علنًا ضد التزييف العميق” حيث تحدثت بصراحة عن تجربتها في الطرف المتلقي للوسائط التي تم التلاعب بها بواسطة الذكاء الاصطناعي. وقد اجتذب الفيديو، الذي تم نشره العام الماضي، ما يقرب من نصف مليون مشاهدة.

قال جيبي: “الحديث عن الأمر يعني فقط أنه سيكون هناك المزيد من الاهتمام به ومنحه جمهورًا أكبر”. “كنت أعلم أن قوتي تكمن أكثر في المجال العام، والنشر عبر الإنترنت والتحدث عن مواضيع صعبة والصدق، والكثير من العمل.”

عندما قررت جيبي الصراحة بشأن هذه القضية، قالت إنها تجنبت في البداية قراءة التعليقات، ولم تكن تعرف كيف سيكون رد فعل الناس. والحمد لله أن الردود كانت إيجابية للغاية. الآن، تأمل أن تؤدي مشاركتها في الفيلم الوثائقي إلى جذب المزيد من الاهتمام إلى الحلول التشريعية المحتملة لمنع أو معاقبة التزييف الجنسي العميق، وهي قضية تراجعت عن تشريعات التزييف العميق السياسي في الأشهر الأخيرة. وفي حديثها مع Gizmodo، قالت جيبي إنها متفائلة بشأن تجدد اهتمام الجمهور بالتزييف العميق، لكنها أعربت عن بعض الانزعاج من أن الأضواء الساطعة لم تصل إلا بعد أن بدأت المشكلة في التأثير على المناطق التي يهيمن عليها الذكور.

قال جيبي: “الرجال هم الجناة والمستهلكون على حد سواء، وهم أيضًا الأشخاص الذين نشعر أنه يتعين علينا مناشدتهم لتغيير أي شيء”. “لذلك هذا محبط.”

وقد ردد آدم دودج، مؤسس EndTAB، هذه الإحباطات، والذي ظهر أيضًا عدة مرات في جسد آخر. قال دودج، وهو محامٍ يعمل في قضايا العنف القائم على النوع الاجتماعي لمدة 15 عامًا، إنه أسس EndTab من أجل تمكين مقدمي خدمات الضحايا وتثقيف القادة حول التهديدات التي تشكلها التكنولوجيا المستخدمة لتنفيذ التحرش. تواصلت تايلور، الطالبة الجامعية التي ظهرت في الفيلم، مع دودج للحصول على المشورة بعد أن اكتشفت التزييف العميق الخاص بها.

وفي حديثه مع Gizmodo، قال دودج إنه من المهم الاعتراف بأن التحرش عبر الإنترنت ليس بالأمر الجديد حقًا. إن الذكاء الاصطناعي وغيره من التكنولوجيات الناشئة تعمل ببساطة على تضخيم مشكلة مثيرة.

قال دودج: “لقد استخدم الناس صورًا عارية للضحايا لمضايقتهم أو ممارسة السلطة والسيطرة عليهم أو إذلالهم لفترة طويلة”. “هذه مجرد طريقة جديدة يستطيع الناس القيام بها.”

يلاحظ دودج أن تقنية التزييف العميق غيرت المعادلة بطريقة واحدة حاسمة. لم يعد الضحايا بحاجة إلى الحصول على صور حميمة لأنفسهم عبر الإنترنت ليتم استهدافهم. يكفي مجرد الحصول على صور متاحة للجمهور على Instagram أو موقع الكلية.

وقال دودج: “نحن جميعا ضحايا محتملون الآن لأن كل ما يحتاجون إليه هو صورة لوجهنا”.

على الرغم من أن منظمته تهدف في المقام الأول إلى أغراض التدريب، إلا أن دودج يقول إن الضحايا كانوا يبحثون عنه بحثًا عن المساعدة لأنه كان واحدًا من الأشخاص القلائل الذين حاولوا رفع مستوى الوعي حول الأضرار في وقت مبكر. هكذا التقى تايلور.

وفي حديثه مع Gizmodo، أعرب دودج عن إحباطات مماثلة بشأن نطاق بعض التشريعات الناشئة المتعلقة بالتزييف العميق. على الرغم من أن الغالبية العظمى من التزييف العميق المنشور على الإنترنت يتضمن مواد إباحية للنساء دون رضاهن، يقدر دودج أن حوالي نصف مشاريع القوانين التي رآها تركز على نزاهة الانتخابات بدلاً من ذلك.

“أعتقد أن السبب في ذلك هو أن العنف ضد المرأة هو قضية لم تحظى أبدًا بالاهتمام المناسب، ويتم تخريبها باستمرار لصالح روايات أخرى، وقد ركز المشرعون والسياسيون على المعلومات الخاطئة العميقة التي من شأنها أن تستهدف المجال السياسي لأنها قضية تؤثر على لهم شخصيا”، على حد تعبيره. “في الواقع، ما نتحدث عنه هو مسألة امتياز.”

تستهلك تقنية التزييف العميق الإنترنت

تنتشر التزييفات الجنسية العميقة في مقطع مذهل. باحث مستقل التحدث مع سلكي يقدر هذا الأسبوع أنه تم تحميل حوالي 244.625 مقطع فيديو على أفضل 35 موقعًا إباحيًا عميقًا على مدار السنوات السبع الماضية. وتم تحميل ما يقرب من نصف مقاطع الفيديو (113000) خلال الأشهر التسعة الأولى من هذا العام. لتوضيح هذه النقطة، يقدر الباحث أنه سيتم تحميل المزيد من مقاطع الفيديو المزيفة بحلول نهاية عام 2023 أكثر من جميع السنوات الأخرى مجتمعة. وهذا لا يشمل حتى التزييف العميق الآخر الذي قد يكون موجودًا على وسائل التواصل الاجتماعي أو في المجموعات الشخصية لمنشئ المحتوى.

وقال آشر فلين، الأستاذ المشارك في جامعة موناش، في مقابلة مع Wired: “كان هناك نمو كبير في توافر أدوات الذكاء الاصطناعي لإنشاء صور إباحية عميقة التزييف وغير موافقة، وزيادة في الطلب على هذا النوع من المحتوى على منصات المواد الإباحية وشبكات الإنترنت غير المشروعة”. . “من المرجح أن يزداد هذا مع أدوات الذكاء الاصطناعي التوليدية الجديدة.”

ورغم أن كل ذلك قد يبدو محبطًا، إلا أن المشرعين يعملون بنشاط لإيجاد حلول محتملة. وقد فعلت ذلك بالفعل حوالي ست دول صدر التشريع تجريم إنشاء ومشاركة مقاطع فيديو مزيفة ذات طابع جنسي دون موافقة الفرد. في نيويورك، صدر مؤخرًا قانون يجرم نشر أو تداول صور جنسية صريحة لشخص ما تم إنشاؤها بواسطة الذكاء الاصطناعي. يدخل حيز التنفيذ في ديسمبر. وقد يواجه منتهكو القانون عقوبة السجن لمدة تصل إلى عام.

“مشروع القانون الخاص بي يبعث برسالة قوية مفادها أن نيويورك لن تتسامح مع هذا النوع من الانتهاكات”، قالت ميشيل هينشي، عضو مجلس الشيوخ عن الولاية، واضعة مشروع القانون. قال مؤخرا هدسون فالي وان، “الضحايا سيحصلون على حقهم في المحكمة”.

وفي أماكن أخرى، هناك مشرعون على المستوى الفيدرالي الضغط على شركات الذكاء الاصطناعي لإنشاء علامات مائية رقمية تكشف بوضوح للجمهور عند تغيير الوسائط باستخدام برامجها. وقد فعلت ذلك بعض الشركات الكبرى المشاركة في سباق الذكاء الاصطناعي، مثل OpenAI، وMicrosoft، وGoogle وافق طوعا للعمل على نظام واضح للعلامات المائية. ومع ذلك، يقول دودج إن جهود الكشف والعلامات المائية تعالج الكثير فقط. ويشير إلى أن المواد الإباحية العميقة ضارة بشكل مدمر وتخلق صدمة دائمة حتى عندما يعلم الجميع أنها مزيفة.

حتى مع احتمال ارتفاع التزييف العميق غير التوافقي في المستقبل القريب، يظل دودج متفائلاً بشكل صادم ومطمئن. وقال إن المشرعين يبدون على استعداد للتعلم من أخطائهم الماضية.

“ما زلت أعتقد أننا مازلنا مبكرين للغاية ونرى أن هذا التشريع قد تم تشريعه. قال دودج: “إننا نرى الناس يتحدثون عن ذلك”. “على عكس وسائل التواصل الاجتماعي الموجودة منذ عقد من الزمن وعدم قيام (المشرعين) بما يكفي لحماية الأشخاص من المضايقات والإساءات على منصاتهم، فإن هذا مجال يهتم فيه الناس جدًا بمعالجته عبر جميع المنصات وما إذا كان تطبيق القانون التشريعي، التكنولوجيا في المجتمع ككل.”