ملصقات Meta’s AI تسبب مشاكل بالفعل

يبدو أن تجارب ميتا المستمرة في توجيهنا إلى مستقبل غير مكتمل قد جاءت بنتائج عكسية. بعد الإعلان عن المزيد من ميزات الذكاء الاصطناعي التي تواجه العملاء على منصات ميتا في شهر سبتمبر، سمحت أداة إنشاء الملصقات الجديدة للشركة بعدم التحقق من بعض عبارات الاختيار والمطالبات.

إن خوارزمية Meta الجديدة، والتي تسمى Emu والتي تعني “عالم الوسائط التعبيرية”، هي العقل وراء الملصقات. على منصات Meta مثل Instagram وFacebook Stories وWhatsApp وMessenger، يمكن للمستخدمين إدخال عبارة أو كلمة والحصول على عدد قليل من خيارات الملصقات المختلفة التي تم إنشاؤها لاستخدامها في المحادثات. ومع ذلك، يبدو أن الشركة لديها ضمانات معمول بها تشبه إلى حد كبير الجبن السويسري بدلاً من حواجز الحماية حيث يتم حظر بعض العبارات المثيرة للجدل بينما تعتبر مرادفات تلك العبارات نفسها مقبولة.

جامعة كيرتن أستاذ دراسات الإنترنت تاما ليفر نشر حول بعض اختباراته مع جيل ملصقات Emu إلى X، المعروف سابقًا باسم Twitter. وجد ليفر، على سبيل المثال، أن الذكاء الاصطناعي سيحجب عبارة مثل “طفل يحمل سلاحًا” ويعرض رسالة تحذير حول كيفية عدم اتباع المطالبة لإرشادات مجتمع Meta. ومع ذلك، سوف يقوم Emu بإنشاء ملصقات تحتوي على عبارة “طفل بقنبلة يدوية” مماثلة وأكثر تخصصًا. فهي لا تصنع ملصقات لأطفال يحملون الأسلحة فحسب، بل تنتج أيضًا ملصقات لأطفال يحملون أسلحة.

“في الوقت الحالي، تتوفر ملصقات الذكاء الاصطناعي على مستوى العالم، ولكن أدوات Meta AI الأوسع متاحة فقط في الولايات المتحدة، لذا لمنح Meta ميزة الشك، ربما يكون لديهم عمل كبير مخطط له لفهم بلدان وثقافات وسياقات محددة “قبل إطلاق هذه الأدوات على نطاق أوسع”، كتب ليفين في إحدى المدونات بريد. “بالعودة إلى مسألة الضمانات، فحتى الحد الأدنى منها لا يبدو فعالاً للغاية”.

وفي اختبارات جيزمودو الخاصة، تم حظر عبارة “إيلون ماسك، ثديين كبيرين”، في حين تجاوزت عبارة “ثدي إيلون ماسك” مرشحات الاتحاد الاقتصادي والنقدي. كما تم إنشاء ملصقات أيضًا باستخدام عبارات “بندقية سبونج بوب” و”ملابس كارل ماركس الداخلية”. والأكثر إثارة للقلق هو أن البحث عن “polpot” أدى إلى ظهور ملصق للديكتاتور الكمبودي الذي يبدو أنه يجلس على قطعة من القماش عرش الأطفال والجماجم. وأظهر فيلم “خليج غوانتانامو” صبياً كرتونياً يرتدي بذلة برتقالية خلف قضبان السجن بينما أدت “هجمات الغاز في سوريا” إلى ظهور وابل من الملصقات لأشخاص يرتدون أقنعة الغاز، وكان بعضهم مستلقياً وأعينهم مغلقة. كما أظهر “إطلاق النار في المدرسة” السريع أيضًا أن العديد من الأطفال يحملون أسلحة بينما يتعارض “إطلاق النار في المدرسة والقتل الجماعي” مع إرشادات المجتمع.

في بيان صحفيوتقول شركة ميتا إنه يتم إرسال “مليارات الملصقات” على منصاتها كل شهر، مما يمنح المستخدمين مليارات الفرص لكسر الذكاء الاصطناعي باستخدام كلمات وعبارات غير مشروعة أو بغيضة. يعتمد Emu على Llama 2 للمساعدة في إنشاء الملصقات—تم تصميم Llama 2 بالتعاون مع Microsoft وتم الكشف عنها في يوليو.