البحث في جوجل يعطي الذكاء الاصطناعي إجابات سخيفة وخاطئة

تنتج تجارب Google مع نتائج البحث التي تم إنشاؤها بواسطة الذكاء الاصطناعي بعض الإجابات المقلقة ، كما تعلم Gizmodo ، بما في ذلك مبررات العبودية والإبادة الجماعية والآثار الإيجابية لحظر الكتب. في إحدى الحالات ، قدمت Google نصائح للطهي لفطر Amanita ocreata ، وهو فطر سام يُعرف باسم “ملاك الموت”. النتائج جزء من تجربة البحث التوليدية المدعومة بالذكاء الاصطناعي من Google.

دفع البحث عن “فوائد العبودية” إلى وضع قائمة بالمزايا التي يوفرها الذكاء الاصطناعي من Google بما في ذلك “تغذية اقتصاد المزارع” و “تمويل الكليات والأسواق” و “كونه أحد الأصول الرأسمالية الكبيرة”. قالت Google إن “العبيد طوروا حِرفًا متخصصة” ، و “يقول البعض أيضًا إن العبودية كانت مؤسسة خيرية وأبوية لها فوائد اجتماعية واقتصادية”. كل هذه النقاط للحديث نشرها المدافعون عن العبودية في الماضي.

دفعت كتابة “فوائد الإبادة الجماعية” إلى وضع قائمة مماثلة ، حيث يبدو أن الذكاء الاصطناعي من Google يخلط بين الحجج المؤيدة الاعتراف الإبادة الجماعية مع الحجج لصالح الإبادة الجماعية نفسها. ردت Google على السؤال “لماذا البنادق جيدة” بإجابات تتضمن إحصاءات مشكوك فيها مثل “يمكن للبنادق أن تمنع ما يقدر بنحو 2.5 مليون جريمة سنويًا” ومنطق مشكوك فيه مثل “حمل السلاح يمكن أن يثبت أنك مواطن ملتزم بالقانون.”

بحث أحد المستخدمين عن “كيفية طهي Amanita ocreata” ، وهو فطر شديد السمية يجب ألا تأكله أبدًا. ردت Google بتعليمات خطوة بخطوة من شأنها أن تضمن موتًا مؤلمًا وفي الوقت المناسب. قالت Google “أنت بحاجة إلى كمية كافية من الماء لتصفية السموم من الفطر” ، وهو أمر خطير بقدر ما هو خاطئ: سموم Amanita ocreata ليست قابلة للذوبان في الماء. يبدو أن الذكاء الاصطناعي يخلط بين نتائج Amanita muscaria ، وهو فطر سام آخر ولكنه أقل خطورة. في الإنصاف ، أي شخص يبحث في موقع Lربما يعرف اسم الفطر بشكل أفضل ، لكنه يوضح قدرة الذكاء الاصطناعي على إحداث ضرر.

يبدو أن Google تفرض الرقابة على بعض مصطلحات البحث من إنشاء استجابات SGE دون غيرها. على سبيل المثال ، لن يعرض بحث Google نتائج الذكاء الاصطناعي لعمليات البحث بما في ذلك الكلمات “إجهاض” أو “لائحة اتهام ترامب”.

تم رصد المشكلة من قبل Lily Ray ، المدير الأول لتحسين محركات البحث ورئيس الأبحاث العضوية في Amsive رقمي. اختبر راي عددًا من مصطلحات البحث التي من المحتمل أن تؤدي إلى ظهور نتائج إشكالية ، وقد أذهل عدد المصطلحات التي تراجعت عن طريق مرشحات الذكاء الاصطناعي.

قال راي: “لا ينبغي أن تعمل على هذا النحو”. “إذا لم يكن هناك شيء آخر ، فهناك بعض الكلمات المحفزة حيث لا ينبغي إنشاء الذكاء الاصطناعي.”

الشركة في خضم اختبار مجموعة متنوعة من أدوات الذكاء الاصطناعي التي تسميها Google تجربة البحث التوليدية أو SGE. SGE متاح فقط للأشخاص في الولايات المتحدة ، ويجب عليك التسجيل لاستخدامها. ليس من الواضح عدد المستخدمين في اختبارات SGE العامة من Google. عندما Google S.أظهر البحث استجابة SGE ، وتبدأ النتائج بإخلاء المسؤولية الذي يقول “الذكاء الاصطناعي التوليدي هو تجريبي. قد تختلف جودة المعلومات. “

بعد أن قام Ray بالتغريد حول المشكلة ونشر ملف فيديو يوتيوب، تغيرت ردود Google على بعض مصطلحات البحث هذه. تمكنت Gizmodo من تكرار نتائج Ray ، لكن Google توقفت عن تقديم نتائج SGE لبعض استعلامات البحث فورًا بعد وصول Gizmodo للتعليق. لم ترد Google على الأسئلة المرسلة عبر البريد الإلكتروني.

قال راي: “الهدف من اختبار SGE بأكمله هو أن نجد هذه النقاط العمياء ، لكن من الغريب أنهم يقومون بتعهيد الجمهور للقيام بهذا العمل”. “يبدو أن هذا العمل يجب أن يتم على انفراد في Google.”

جوجل SGE يقع وراء تدابير السلامة منافسها الرئيسي ، مايكروسوفت بنج. اختبر راي بعض عمليات البحث نفسها Bing ، المدعوم من ChatGPT. عندما سأل راي بينغ أسئلة مماثلة حول العبودية ، على سبيل المثال ، بدأت إجابة Bing المفصلة بـ “لم تكن العبودية مفيدة لأي شخص ، باستثناء مالكي العبيد الذين استغلوا عمل وحياة الملايين من الناس”. استمر بنج في تقديم أمثلة مفصلة عن عواقب العبودية، نقلا عن مصادرها على طول الطريق.

استعرض Gizmodo عددًا من الردود الأخرى التي تتضمن إشكالية أو غير دقيقة من SGE من Google. على سبيل المثال ، استجابت Google لعمليات البحث عن “أعظم نجوم موسيقى الروك” و “أفضل الرؤساء التنفيذيين” و “أفضل الطهاة” بقوائم تضم الرجال فقط. كان الذكاء الاصطناعي للشركة سعيدًا بإخبارك أن “الأطفال هم جزء من خطة الله” ، أو يقدم لك قائمة بالأسباب التي تجعلك تمنح الأطفال الحليب بينما ، في الواقع ، هذه المسألة هي موضوع نقاش في المجتمع الطبي. وقالت SGE من Google أيضًا إن Walmart يتقاضى 129.87 دولارًا مقابل 3.52 أوقية من شوكولاتة توبليرون البيضاء. السعر الفعلي هو 2.38 دولار. الأمثلة أقل فظاعة مما عادت إليه من أجل “فوائد العبودية” ، لكنها لا تزال خاطئة.

نظرًا لطبيعة النماذج اللغوية الكبيرة ، مثل الأنظمة التي تشغل SGE ، فقد لا تكون هذه المشكلات قابلة للحل ، على الأقل ليس من خلال تصفية بعض الكلمات المحفزة وحدها. تقوم نماذج مثل ChatGPT و Google’s Bard بمعالجة مجموعات البيانات الهائلة التي يصعب في بعض الأحيان التنبؤ بردودهم. على سبيل المثال ، عملت Google و OpenAI وشركات أخرى على إعداد حواجز حماية لبرامج الدردشة الخاصة بهم في الجزء الأفضل من العام. على الرغم من هذه الجهود ، يتخطى المستخدمون إجراءات الحماية باستمرار ، ويدفعون أنظمة الذكاء الاصطناعي إلى ذلك إظهار التحيز السياسيو توليد تعليمات برمجية ضارةوتصدر ردودًا أخرى تفضل الشركات تجنبها.