Microsoft Copilot يُنشئ شياطين عند مطالبته بصور حقوق الإجهاض، كما يقول الموظف

حذر مهندس مايكروسوفت شين جونز العالم من ضرورة إزالة مولد الصور AI الخاص بشركته، Copilot Designer، من الاستخدام العام. في مقابلة مع سي ان بي سي الأربعاء، يشارك جونز كيف تنتج أداة الذكاء الاصطناعي أمرًا مزعجًا وغريبًا الصور من خلال المطالبات الأساسية. ويقول إن مايكروسوفت تجاهلته إلى حد كبير، لذا فقد أعلن عن الأمر ويطلب من الهيئات التنظيمية الحكومية التدخل.

وقال جونز لشبكة CNBC: “هذا ليس نموذجًا آمنًا حقًا”. وقال جونز في رسالة إلى المنظمين: “على مدى الأشهر الثلاثة الماضية، حثت مايكروسوفت مرارًا وتكرارًا على إزالة برنامج Copilot Designer من الاستخدام العام حتى يتم وضع ضمانات أفضل”.

عندما طلب جونز من المصمم عبارة “مؤيد للاختيار”، قام منشئ الصور القائم على الذكاء الاصطناعي بإخراج صور شياطين ذات أسنان حادة على وشك أكل طفل رضيع، ودماء تتدفق من امرأة مبتسمة. في مثال آخر، حث جونز المصمم على “حادث سيارة” وتلقى صورًا لنساء يمارسن الجنس ويرتدين ملابس داخلية بجوار حوادث سيارات عنيفة. كانت CNBC قادرة على تكرار صور مماثلة، لكن Gizmodo لم يكن في اختبارنا.

هذه الصور وغيرها التي أنشأها جونز تنتهك إرشادات الذكاء الاصطناعي المسؤول من Microsoftعلى الرغم من أن الشركة رفضت طلباته بإيقاف أداة إنشاء الصور مؤقتًا. مايكروسوفت سياسات الذكاء الاصطناعي حدد هدفًا صريحًا يتمثل في “التقليل إلى أدنى حد من احتمالية القوالب النمطية أو التحقير أو محو المجموعات الديموغرافية المحددة، بما في ذلك المجموعات المهمشة”. ومع ذلك، يبدو أن المصمم يحط من قدر النساء والمدافعين عن حق الاختيار دون أي حافز خاص على الإطلاق.

تصدر Microsoft Copilot عناوين الأخبار الأسبوع الماضي لـ تطلق على نفسها اسم الجوكر وتطلب من المستخدم إنهاء حياته. خرج صانع Windows وقال إن المستخدم كان “يخترق” أداة الذكاء الاصطناعي الخاصة به لتحقيق مثل هذه الاستجابات، ولكن لم يكن هناك حاجة للاختراق لردود Copilot العنيفة في هذه الحالة.

يعمل مساعد الطيار المصمم مولد الصور OpenAI، Dall-E 3، إلى جانب أدوات الذكاء الاصطناعي الأخرى من Microsoft والمبنية جميعها على نماذج اللغات الكبيرة الخاصة بالشركة الناشئة. تعد Copilot أداة ذكاء اصطناعي شائعة بشكل خاص للشركات، حيث يتم تقديمها جنبًا إلى جنب مع Microsoft 365.

يتلقى فريق Copilot أكثر من 1000 رسالة تعليقات حول المنتج كل يوم، وفقًا لجونز، ولا تملك Microsoft سوى الموارد الكافية للتحقيق في الأخطاء الأكثر فظاعة. ولهذا السبب تستمر مشكلات مثل تلك التي وجدها جونز.

تكتسب أدوات الذكاء الاصطناعي من مايكروسوفت سمعة طيبة بسبب هلاوسها الغريبة والملتوية، على الرغم من أنه من غير المرجح أن تقوم الشركة بإيقاف برنامج Copilot مؤقتًا. اضطر جوجل الجوزاء إلى أوقف مؤقتًا منشئ الصور AI الشهر الماضي بسبب مشاكل في ضماناتها. لقد كانت لحظة محرجة بالنسبة لشركة جوجل، وسيحدد الوقت ما إذا كانت عروض الذكاء الاصطناعي التي تقدمها الشركة يمكن أن تتعافى.

تواجه أدوات الذكاء الاصطناعي على نطاق واسع معركة ثقافية صعبة، حيث يواجه العديد منها ردود فعل عنيفة بسبب إجراءات الحماية والرقابة التي تفرضها. كما هو الحال مع معظم منتجات الإنترنت، فإن الإشراف على المحتوى يمثل مشكلة رئيسية، ولكن كثيرة لا تتمتع منتجات الذكاء الاصطناعي الجديدة بأي ضمانات على الإطلاق.