يوتيوب يحظر مقاطع فيديو الجرائم الحقيقية التي تعيد إحياء الأطفال الموتى باستخدام الذكاء الاصطناعي

متى اخترع تيم بيرنرز لي شبكة الويب العالمية في عام 1989ربما لم يتخيل أن نظامه الجديد سيكون مستودعًا لأسوأ دوافع البشرية، ولكن ها نحن ذا. أحدث مثال من برنامج الرعب على الإنترنت يأتي من يوتيوب، حيث اضطرت الشركة إلى تحديث سياساتها لتقول أنه لا، لا يُسمح لك بإنشاء مقاطع فيديو بتقنية الذكاء الاصطناعي لأطفال ميتين لمحتوى الجريمة الحقيقي الخاص بك.

وصف موقع YouTube التغيير في أ بريد في مركز المساعدة الخاص به. وكتبت الشركة: “في 16 كانون الثاني (يناير)، سنبدأ في عرض محتوى يحاكي بشكل واقعي القُصّر المتوفين أو ضحايا أحداث العنف الكبرى المميتة أو الموثقة جيدًا والتي تصف موتهم أو العنف الذي تعرضوا له”.

يأتي التحديث ردًا على نوع مثير للقلق من مقاطع الفيديو التي حصدت ملايين المشاهدات على وسائل التواصل الاجتماعي مع أصوات محاكاة لضحايا قتل أطفال حقيقيين يصفون وفاتهم المروعة، وفقًا لما أوردته الحافة الاثنين.

قال طفل رسوم متحركة في أحد مقاطع فيديو TikTok التي انتشرت على نطاق واسع، قبل أن يعرّف عن نفسه بأنه رودي ماري فلويد، ضحية جريمة قتل حقيقية: “لقد حبستني جدتي في فرن على درجة حرارة 230 درجة عندما كان عمري 21 شهرًا فقط”. “من فضلك تابعني حتى يعرف المزيد من الناس قصتي الحقيقية.” أثارت مقاطع فيديو مماثلة اهتمام واسع النطاق على يوتيوب.

لدى TikTok بالفعل سياسات تعالج هذه الفئة من الفحش على الإنترنت. تتطلب المنصة وضع علامات على مقاطع الفيديو التي تم إنشاؤها بواسطة الذكاء الاصطناعي وتحظر التزييف العميق للأشخاص الذين تقل أعمارهم عن 18 عامًا أو أي شخص بالغ ليس شخصية عامة.

مقاطع الفيديو ليست مزعجة للمشاهدين فحسب، بل إنها مؤلمة للناجين. ووصفت دينيس فيرغوس، التي اختُطف ابنها جيمس بولجر وقُتل عام 1993، مقاطع فيديو الذكاء الاصطناعي التي تظهر طفلها بأنها “مثيرة للاشمئزاز” في مقابلة مع صحيفة “نيويورك تايمز”. مرآة. وقال فيرغوس: “إنها إعادة طفل ميت إلى الحياة”. “إنه أبعد من المرض.”

لقد رأينا مرارًا وتكرارًا أنه لا يوجد شيء فاسد لدرجة أن شخصًا ما لن يحاول تحقيق الدخل منه عبر الإنترنت. يمكنك إلقاء اللوم على الأشخاص الذين يصنعون محتوى العرض الزاحف هذا، ولكنه أيضًا نتيجة منطقية لنظام يحفز المبدعين على اختطاف انتباهنا.