السيارات بدون سائق أسوأ في رؤية الأطفال والأشخاص ذوي البشرة الداكنة – دراسة

أنظمة السيارات بدون سائق لديهم مشكلة التحيز، وفقا لدراسة جديدة من كلية كينجز في لندن. ال يذاكر فحص ثمانية أنظمة للكشف عن المشاة تعمل بالذكاء الاصطناعي تستخدم في أبحاث القيادة الذاتية. قام الباحثون بتشغيل أكثر من 8000 صورة من خلال البرنامج ووجدت أن القيادة الذاتية كانت أنظمة السيارات أفضل بنسبة 20% تقريبًا في اكتشاف المشاة البالغين مقارنة بالأطفال، وأفضل بنسبة تزيد عن 7.5% في اكتشاف المشاة ذوي البشرة الفاتحة. ذوي البشرة الداكنة. وكان الذكاء الاصطناعي أسوأ في اكتشاف الأشخاص ذوي البشرة الداكنة في الإضاءة المنخفضة والإعدادات المنخفضة، مما جعل التكنولوجيا أقل أمانًا في الليل.

بالنسبة للأطفال والأشخاص الملونين، قد يصبح عبور الشارع أكثر خطورة في المستقبل القريب.

وقال الدكتور جي تشانغ، أحد مؤلفي الدراسة، في مقال: “العدالة عندما يتعلق الأمر بالذكاء الاصطناعي هي عندما يعامل نظام الذكاء الاصطناعي المجموعات المتميزة والمحرومة بنفس الطريقة، وهذا ليس ما يحدث عندما يتعلق الأمر بالمركبات ذاتية القيادة”. بيان صحفي. “لا تنشر شركات تصنيع السيارات تفاصيل البرامج التي تستخدمها للكشف عن المشاة، ولكن نظرًا لأنها عادةً ما تكون مبنية على نفس الأنظمة مفتوحة المصدر التي استخدمناها في بحثنا، يمكننا أن نكون متأكدين تمامًا من أنهم يواجهون نفس المشكلات من التحيز.”

ولم تختبر الدراسة نفس البرامج المستخدمة من قبل شركات السيارات ذاتية القيادة التي لديها بالفعل منتجاتها في الشوارع، ولكنها تزيد من المخاوف المتعلقة بالسلامة المتزايدة مع تزايد انتشار السيارات. هذا الشهر، قدمت حكومة ولاية كاليفورنيا مجموعة Waymo وCruise المجانية لتشغيل سيارات الأجرة بدون سائق في سان فرانسيسكو 24 ساعة في اليوم. بالفعل، التكنولوجيا التسبب في وقوع حوادث و إثارة الاحتجاجات في المدينة.

ولم تستجب شركات Cruise وWaymo وTesla، وهي ثلاث من الشركات الأكثر شهرة بالسيارات ذاتية القيادة، على الفور لطلبات التعليق.

ووفقا للباحثين، فإن المصدر الرئيسي لمشاكل التكنولوجيا مع الأطفال والأشخاص ذوي البشرة الداكنة يأتي من التحيز في البيانات المستخدمة لتدريب الذكاء الاصطناعي، والذي يحتوي على عدد أكبر من البالغين والأشخاص ذوي البشرة الفاتحة.

تعكس الخوارزميات التحيزات الموجودة في البياناتمجموعات وعقول الناس الذين خلقوها. أحد الأمثلة الشائعة هو برامج التعرف على الوجه، وهو ما يوضح باستمرار دقة أقل مع وجوه النساء وذوي البشرة الداكنة والآسيويين على وجه الخصوص. هؤلاء ولم توقف المخاوف الاحتضان الحماسي لهذا النوع من تكنولوجيا الذكاء الاصطناعي. التعرف على الوجه هو المسؤول بالفعل عن الوضع السود الأبرياء في السجن.