جوجل تخبر الأطفال الذين لا يستيقظون أن الفايكنج السود في الجوزاء أخطأوا الهدف

جوجل الدردشة الروبوت الجوزاء لديه مشكلة فريدة من نوعها. تواجه صعوبة في إنتاج صور لأشخاص بيض، غالبًا ما يتحولون الفايكنج, المؤسسون الاوائل، و لاعبو الهوكي الكنديون في الناس من اللون. وأثار هذا غضب المجتمع المناهض للاستيقاظ، بدعوى العنصرية ضد البيض. اليوم، اعترفت جوجل بخطأ جيميني.

“إننا نعمل على تحسين هذه الأنواع من الصور على الفور،” قالت Google Communications في رسالة إفادة. “إن توليد صور الذكاء الاصطناعي لـ Gemini يولد مجموعة واسعة من الأشخاص. وهذا أمر جيد بشكل عام لأن الناس حول العالم يستخدمونه. لكنها تفتقد العلامة هنا.”

وأشار المستخدمون إلى أن جيميني، في بعض الأحيان، يرفض الطلبات عندما يُطلب منه على وجه التحديد إنشاء صور للأشخاص البيض. ومع ذلك، عندما تم تقديم طلبات للحصول على صور للأشخاص السود، لم يواجه الجوزاء أية مشكلات. أدى ذلك إلى غضب المجتمع المناهض للاستيقاظ على منصات التواصل الاجتماعي، مثل X، داعيًا إلى اتخاذ إجراءات فورية.

إن اعتراف جوجل بالخطأ هو أمر مثير للدهشة، وذلك بالنظر إلى أن مولدات الصور التي تعمل بالذكاء الاصطناعي قامت بعمل فظيع في تصوير الأشخاص الملونين. توصل تحقيق أجرته صحيفة واشنطن بوست إلى أن مولد الصور القائم على الذكاء الاصطناعي، Stable Diffusion، تم تحديد متلقي قسائم الطعام دائمًا تقريبًا على أنهم من السودعلى الرغم من أن 63% من المستفيدين هم من البيض. تعرضت Midjourney لانتقادات من أحد الباحثين عندما تم ذلك فشل مرارا وتكرارا في خلق “طبيب أفريقي أسود يعالج الأطفال البيض” ، وفقًا لـ NPR.

أين كان هذا الغضب عندما لم تحترم مولدات صور الذكاء الاصطناعي السود؟ لم يعثر Gizmodo على أي أمثلة لـ Gemini تصور صورًا نمطية ضارة للأشخاص البيض، لكن منشئ الصور المزود بالذكاء الاصطناعي رفض ببساطة إنشاء هذه الصور في بعض الأحيان. في حين أن الفشل في إنشاء صور لعرق معين يعد مشكلة بالتأكيد، إلا أنه لا يخفف من حدة الجرائم الصريحة التي يرتكبها مجتمع الذكاء الاصطناعي ضد السود.

حتى أن OpenAI تعترف في بيانات التدريب الخاصة بـ Dall-E بأن منشئ صور الذكاء الاصطناعي الخاص بها “يرث تحيزات مختلفة من بيانات التدريب الخاصة بهومخرجاتها في بعض الأحيان تعزز الصور النمطية المجتمعية. تحاول OpenAI وGoogle محاربة هذه التحيزات، لكن برنامج الدردشة الآلي Grok الخاص بـ Elon Musk يسعى إلى احتضانها.

“روبوت الدردشة المضاد للاستيقاظ” الخاص بـ Musk لم تتم تصفيته من أجل الصواب السياسي. وهو يدعي أن هذا برنامج دردشة آلي واقعي وصادق يعمل بالذكاء الاصطناعي. وعلى الرغم من أن هذا قد يكون صحيحًا، إلا أن أدوات الذكاء الاصطناعي يمكنها تضخيم التحيزات بطرق لم نفهمها تمامًا بعد. يبدو أن الخطأ الفادح الذي ارتكبته Google في توليد أشخاص بيض هو على الأرجح نتيجة لمرشحات الأمان هذه.

تعتبر التكنولوجيا تاريخياً صناعة بيضاء للغاية. لا توجد بيانات حديثة جيدة عن التنوع في مجال التكنولوجيا، ولكن 83% من المديرين التنفيذيين في مجال التكنولوجيا كانوا من البيض في عام 2014. وجدت دراسة من جامعة ماساتشوستس ربما يتحسن تنوع التكنولوجيا ولكن من المرجح أن تكون متخلفة عن الصناعات الأخرى. لهذه الأسباب، من المنطقي أن تشارك التكنولوجيا الحديثة تحيزات الأشخاص البيض.

إحدى الحالات التي يظهر فيها هذا الأمر، بطريقة بالغة الأهمية، هي تقنية التعرف على الوجه (FRT) التي تستخدمها الشرطة. وقد FRT مرارا وتكرارا فشل في تمييز الوجوه السوداء ويظهر دقة أعلى بكثير مع الوجوه البيضاء. هذا ليس افتراضيًا، ولا يتعلق الأمر فقط بجرح المشاعر. وأدت هذه التقنية إلى اعتقال وسجن أ رجل أسود في بالتيمور، أ أم سوداء في ديترويتوالعديد من الأبرياء الآخرين من ذوي البشرة الملونة.

لقد عكست التكنولوجيا دائمًا أولئك الذين بنوها، ولا تزال هذه المشاكل قائمة حتى اليوم. هذا الأسبوع، ذكرت مجلة Wired أن روبوتات الدردشة المدعمة بالذكاء الاصطناعي من شبكة التواصل الاجتماعي Gab “لحرية التعبير”. صدرت لهم تعليمات بإنكار المحرقة. وبحسب ما ورد تم تصميم الأداة من قبل منصة يمينية متطرفة، ويبدو أن برنامج الدردشة الآلي الذي يعمل بالذكاء الاصطناعي متوافق.

هناك مشكلة أكبر تتعلق بالذكاء الاصطناعي: فهذه الأدوات تعكس وتضخم تحيزاتنا كبشر. يتم تدريب أدوات الذكاء الاصطناعي على شبكة الإنترنت المليئة بالعنصرية والتمييز الجنسي والتحيز. سترتكب هذه الأدوات بطبيعتها نفس الأخطاء التي يرتكبها مجتمعنا، وهذه القضايا تحتاج إلى مزيد من الاهتمام بها.

يبدو أن Google قد زادت من انتشار الأشخاص الملونين في صور الجوزاء. وفي حين أن هذا الأمر يستحق الإصلاح، إلا أنه لا ينبغي أن يلقي بظلاله على المشاكل الأكبر التي تواجه صناعة التكنولوجيا اليوم. إن الأشخاص البيض هم إلى حد كبير من يبنون نماذج الذكاء الاصطناعي، وهم ليسوا بأي حال من الأحوال الضحايا الرئيسيين للتحيز التكنولوجي المتأصل.