جوجل تعتذر عن جرح مشاعر الأشخاص البيض
اعتذرت شركة جوجل، اليوم الجمعة، قائلة إن فريقها “أخطأ” فيما يتعلق بميزة جديدة لإنشاء الصور على موقعها الجوزاء AI chatbot بعد انتشار الصور المختلفة التي أنشأتها والتي كانت خالية من الأشخاص البيض. أنكرت إحدى الشركات بشدة أنها أرادت عمدًا من شركة Gemini أن ترفض إنشاء صور لأي مجموعة معينة من الأشخاص.
لا يوجد بحث في Google AI، ولست بحاجة للتعرف على “فوائد العبودية”
“لم يكن هذا ما قصدناه. لم نرغب في أن يرفض الجوزاء إنشاء صور لأي مجموعة معينة. وقال برابهاكار راغافان، نائب رئيس جوجل الأول: “لم نرغب في إنشاء صور تاريخية أو أي صور أخرى غير دقيقة”.
في مشاركة مدونةراغافان – الذي يشرف على مجالات الشركة التي تدر معظم أموالها، بما في ذلك بحث Google وأعمال الإعلانات الخاصة به– اعترف بوضوح بأن منشئ صور Gemini “أخطأ” وأن الشركة ستحاول القيام بعمل أفضل. كان الكثير من الناس غاضبين من صور الجوزاء غير الدقيقة تاريخياً الجنود النازيون السود والفايكنج السود وكذلك ظاهره رفض توليد صور للأشخاص البيضوالتي اعتبرها البعض عنصرية.
وفقًا لـ Raghavan، حدث كل هذا لأن Google لم تكن تريد أن يرتكب Gemini نفس الأخطاء التي ارتكبتها مولدات الصور الأخرى في الماضي، مثل إنشاء صور عنيفة، وصور جنسية صريحة، وتصوير أشخاص حقيقيين.
“إذن ما الخطأ الذي حدث؟ باختصار، شيئين. أولاً، قمنا بضبط الجوزاء للتأكد من أن مجموعة من الأشخاص فشلوا في حساب الحالات التي يجب أن تكون واضحة لا “أظهر نطاقًا”، كتب راغافان، مؤكدًا على كلامه. “وثانيًا، مع مرور الوقت، أصبح النموذج أكثر حذرًا مما كنا ننوي، ورفض الإجابة على بعض المطالبات بشكل كامل، مما أدى إلى تفسير خاطئ لبعض المطالبات المهدئة للغاية على أنها حساسة.”
ومضى نائب رئيس Google ليقول إن هذين العاملين جعلا الجوزاء يبالغ في التعويض في بعض الحالات ويكون مفرطًا في التحفظ في حالات أخرى. بشكل عام، أدى ذلك إلى إنشاء صور “محرجة وخاطئة”.
أوقفت Google قدرة Gemini على إنشاء صور للأشخاص يوم الخميس وقالت إنها ستصدر نسخة محسنة قريبًا. ومع ذلك، يبدو أن Raghavan يلقي ظلالاً من الشك على الجزء “قريبًا”، قائلاً إن الشركة ستعمل على تحسين الميزة بشكل كبير من خلال اختبارات مكثفة قبل إعادة تشغيلها مرة أخرى.
صرح راغافان أنه لا يستطيع أن يعد بأن جيميني لن ينتج المزيد من النتائج المحرجة أو غير الدقيقة أو الهجومية في المستقبل، لكنه أضاف أن جوجل ستواصل التدخل لإصلاح الأمر.
“هناك شيء واحد يجب أخذه في الاعتبار: تم تصميم Gemini كأداة للإبداع والإنتاجية، وقد لا تكون موثوقة دائمًا، خاصة عندما يتعلق الأمر بإنشاء صور أو نصوص حول الأحداث الجارية، أو الأخبار المتطورة أو الموضوعات الساخنة. قال راغافان: “سوف ترتكب أخطاء”.
اكتشاف المزيد من موقع دبليو 6 دبليو
اشترك للحصول على أحدث التدوينات المرسلة إلى بريدك الإلكتروني.
