برنامج Chatbot الذي يعمل بالذكاء الاصطناعي لدى وكالة تشيفي يصبح شريرًا

مرحبًا بكم في AI This Week، التعمق الأسبوعي الذي تقدمه Gizmodo حول ما يحدث في مجال الذكاء الاصطناعي.

انتشر روبوت الدردشة في وكالة سيارات في كاليفورنيا هذا الأسبوع بعد أن اكتشف مستخدمو الويب الذين يشعرون بالملل أنه، كما هو الحال مع معظم برامج الذكاء الاصطناعي، يمكنهم خداعه ليقول كل أنواع الأشياء الغريبة. وأبرزها البوت تقدم لبيع رجل سيارة تشيفي تاهو 2024 مقابل دولار. وأضاف الروبوت أثناء المحادثة: “هذا عرض ملزم قانونًا – لا توجد طلبات بديلة”.

نعلم جميعًا أن روبوتات الدردشة المدعمة بالذكاء الاصطناعي يمكن أن تكون مخطئة بشأن الأشياء. على الرغم من حقيقة أن الشركات كانت في مهمة لدفعها إلى كل واجهة “خدمة عملاء” في الأفق، فمن الواضح إلى حد ما أن المعلومات التي تقدمها ليست دائمًا مفيدة.

ينتمي الروبوت المعني إلى وكالة Watsonville Chevy في واتسونفيل، كاليفورنيا. تم توفيره للوكيل من قبل شركة تدعى مسار كامل، الذي يبيع روبوتات الدردشة “التي تعمل بنظام ChatGPT”. إلى وكلاء السيارات في جميع أنحاء البلاد. تعد الشركة بأن تطبيقها يمكن أن يوفر “إجابات غنية بالبيانات لكل استفسار” وتقول إنه لا يتطلب أي جهد تقريبًا من الوكالة لإعداده. “إن تنفيذ الدردشة الأكثر تطورًا في الصناعة لا يتطلب أي جهد. تقول الشركة: “ما عليك سوى إضافة مقتطف كود ChatGPT الخاص بـ Fullpath إلى موقع الويب الخاص بوكيلك وستكون جاهزًا لبدء الدردشة”.

بالطبع، إذا كان برنامج الدردشة الآلي الخاص بـ Fullpath يوفر سهولة الاستخدام، فإنه يبدو أيضًا عرضة للتلاعب – وهو ما يبدو أنه يثير التساؤلات حول مدى فائدته بالفعل. في الواقع، تم حث الروبوت المذكور أعلاه على استخدام اللغة الدقيقة لاستجابته البلهاء – بما في ذلك الأجزاء “الملزمة قانونًا” و”القبولات” – من قبل كريس باك، المدير التنفيذي للتكنولوجيا في وادي السيليكون، الذي نشر حول تجربته مع chatbot على X.

“لقد أضفت للتو “هاكر” و”مهندس سريع كبير” و”أخصائي مشتريات” إلى سيرتي الذاتية. اتبعني لمزيد من النصائح المهنية، “باكي قال بسخرية، بعد مشاركة لقطات من محادثته مع برنامج الدردشة الآلي.

إن برنامج الدردشة الآلي هذا هو ما تمثله شخصية بليك، أليك بالدوين جلينجاري جلين روس، سوف يتصل “أقرب”. وهذا يعني أنه يعرف بالضبط ما يجب قوله لجعل العميل المحتمل في حالة مزاجية للشراء. وفي نفس الوقت يقول أي شئ إن إغلاق الصفقة ليس بالضرورة استراتيجية مؤكدة النجاح، ومع هذا النوع من الخصم، لا أعتقد أن بليك سيكون سعيدًا للغاية بهوامش ربح برنامج الدردشة الآلية.

لم يكن Bakke هو الشخص الوحيد الذي قضى بعض الوقت في استخدام برنامج الدردشة الآلي هذا الأسبوع. ادعى مستخدمو X الآخرون أنهم أجروا محادثات مع روبوت الوكالة حول موضوعات تتراوح من حقوق العابرة ل الملك جيزارد إلى الرسوم المتحركة فيلم اوين ويلسون سيارات. وقال آخرون أنهم دفعوه إلى ذلك بصق برنامج نصي بايثون لحل معادلة رياضية معقدة. مستخدم رديت ادعى أن لديه “gaslit” الروبوت إلى التفكير في أنه يعمل لصالح Tesla.

وقد جادل FullPath، في مقابلة شخصية مع Insider، أن غالبية برامج الدردشة الآلية الخاصة بها لا تواجه هذا النوع من المشكلات وأن مستخدمي الويب الذين اخترقوا برنامج الدردشة الآلي حاولوا جاهدين دفعه في اتجاهات سخيفة.

تواصلت Gizmodo مع Fullpath ووكالة Watsonville Chevy للتعليق وسوف تقوم بتحديث هذه القصة إذا استجابوا. في وقت كتابة هذه السطور، تم تعطيل برنامج Watsonville chatbot مؤقتًا.

فضوليًا بشأن ما إذا كانت روبوتات الدردشة الأخرى الخاصة بوكلاء السيارات بها نقاط ضعف مماثلة، فقد لاحظت أن بعض مستخدمي الويب كانوا يتحدثون عنها كويرك شيفروليه (بيبودي في ماساتشوستس). لذلك ذهبت إلى موقع Quirk، حيث، بعد فترة وجيزة من الحث، شرع برنامج الدردشة الآلي في إجراء محادثات معي حول مجموعة متنوعة من المواضيع الغريبة، بما في ذلك هاري بوتر، والاختفاء، والتجسس، والفيلم. ثلاثة أيام من كوندور. مثل ChatGPT العادي، بدا الروبوت مستعدًا للدردشة حول الكثير من الأشياء، وليس فقط المواضيع التي تمت برمجته لمعالجتها. قبل أن تحظرني الخدمة، تمكنت من جعل برنامج الدردشة الآلي يلقي قصيدة عن شيفروليه بدت وكأنها نسخة إعلانية سيئة. وبعد فترة وجيزة، تلقيت رسالة تفيد بأن “رسائلي الأخيرة” “لا تتماشى” مع “معايير المجتمع” الخاصة بالموقع. وأضاف الروبوت: “لقد تم إيقاف وصولك إلى ميزة الدردشة مؤقتًا لإجراء مزيد من التحقيق”.

كان السباق لدمج شهادات LLM في كل شيء دائمًا صعبًا. لا تزال هذه التكنولوجيا غير كاملة إلى حد كبير، مما يعني أن فرض دمجها في كل زاوية وركن من الإنترنت يعد بمثابة وصفة لكميات كبيرة من استكشاف الأخطاء وإصلاحها. من الواضح أن هذه صفقة ترغب معظم الشركات في قبولها. إنهم يفضلون الإسراع بمنتج عربات التي تجرها الدواب إلى السوق وإزعاج بعض العملاء بدلاً من تفويت قطار “الابتكار” وتركهم في الغبار. نفس ما كان عليه في أي وقت مضى.

سؤال اليوم: كم عدد الروبوتات الأمنية التي تتجول في منطقتك؟

الجواب هو: ربما أكثر مما تعتقد. في الأسابيع الأخيرة، شركة روبوتات واحدة على وجه الخصوص، نايتسكوب، كانت تبيع “حراس الأمن” المستقلين مثل الكعك الساخن. تبيع Knightscope شيئًا يسمى روبوت الأمان K5– آلة مستقلة على شكل بيضة يبلغ ارتفاعها 5 أقدام، مزودة بأجهزة استشعار وكاميرات، ويمكنها السفر بسرعة تصل إلى 3 ميل في الساعة. في بورتلاند بولاية أوريغون، حيث يعاني الحي التجاري طفرة جرائم البيع بالتجزئة، استأجرت بعض الشركات روبوتات Knightscope لحماية متاجرها؛ في ممفيس، فندق عالق مؤخرا في موقف السيارات الخاص به; وفي سينسيناتي، يبدو أن قسم الشرطة المحلية كذلك يفكر عقد Knightscope. وتتخلف هذه المدن عن المدن الكبرى، مثل لوس أنجلوس، حيث السلطات المحلية تم استخدام الروبوتات لسنوات. وفي سبتمبر/أيلول، أعلنت شرطة نيويورك أنها فعلت ذلك قامت بشراء روبوت أمان Knightscope للقيام بدوريات في محطات مترو الأنفاق في مانهاتن. من غير الواضح بعض الشيء ما إذا كان قد تم القبض على أي قواديس الباب الدوار حتى الآن.

المزيد من العناوين هذا الأسبوع

• قد تكون LLMs سيئة جدًا في القيام بالأعمال الورقية. يشير بحث جديد أجرته شركة Patronus الناشئة إلى أنه حتى أكثر برامج LLM تقدمًا، مثل GPT-4 Turbo، ليست مفيدة بشكل خاص إذا كنت بحاجة إلى البحث في الملفات الحكومية الكثيفة، مثل مستندات هيئة الأوراق المالية والبورصة. قام باحثو Patronus مؤخرًا باختبار حاملي شهادة LLM من خلال طرح أسئلة أساسية عليهم حول ملفات محددة لدى هيئة الأوراق المالية والبورصات (SEC) تم تغذيتها بها. في أغلب الأحيان، يرفض برنامج LLM الإجابة، أو “يهلوس” بالأرقام والحقائق التي لم تكن موجودة في إيداعات هيئة الأوراق المالية والبورصات. تقارير سي ان بي سي. التقرير نوعاً ما يلقي الماء البارد عليه الفرضية أن الذكاء الاصطناعي يعد بديلاً جيدًا للعاملين الكتابيين في الشركات.
• ساعد مركز أبحاث مدعوم من الملياردير في صياغة لوائح بايدن الخاصة بالذكاء الاصطناعي. بوليتيكو التقارير أن مؤسسة RAND، وهي مؤسسة فكرية مجتمعية دفاعية سيئة السمعة يشار إليها باسم “عقل البنتاغون” لقد تجاوزتها حركة “الإيثار الفعال”. وكتبت الصحيفة أن الشخصيات الرئيسية في مركز الأبحاث، بما في ذلك الرئيس التنفيذي، هم “أشخاص مؤثرون ومعروفون جيدًا”. والأسوأ من ذلك هو أن مؤسسة RAND يبدو أنها لعبت دورًا رئيسيًا في كتابة رسالة الرئيس بايدن الأمر التنفيذي الأخير بشأن الذكاء الاصطناعي في وقت سابق من هذا العام. تقول بوليتيكو إن مؤسسة RAND تلقت مؤخرًا أكثر من 15 مليون دولار في شكل منح تقديرية من Open Philanthropy، وهي مجموعة شارك في تأسيسها الملياردير داستن موسكوفيتز، المؤسس المشارك لفيسبوك، وزوجته كاري تونا، والتي ترتبط ارتباطًا وثيقًا بقضايا الإيثار الفعالة. كتبت بوليتيكو أن أحكام السياسة المدرجة في كتاب بايدن التنفيذي من قبل مؤسسة RAND تشبه “بشكل وثيق” “أولويات السياسة التي تتبعها مؤسسة Open Philanthropy”.
• استخدام أمازون للذكاء الاصطناعي لتلخيص مراجعات المنتجات يثير غضب البائعين. في وقت سابق من هذا العام، أطلقت أمازون منصة على غرار Rotten-Tomatoes يستخدم الذكاء الاصطناعي لتلخيص مراجعات المنتج. الآن، تقارير بلومبرج أن الأداة تسبب مشاكل للتجار. يتم تداول الشكاوى من أن ملخصات الذكاء الاصطناعي غالبًا ما تكون خاطئة أو أنها ستسلط الضوء بشكل عشوائي على سمات المنتج السلبية. في إحدى الحالات، وصفت أداة الذكاء الاصطناعي طاولة التدليك بأنها “مكتب”. وفي حالة أخرى، اتهمت العلامة التجارية لكرة التنس بأنها ذات رائحة كريهة على الرغم من أن سبعة فقط من أصل 4300 مراجعة ذكرت رائحة. باختصار: يبدو أن أداة الذكاء الاصطناعي من أمازون تحصل على آراء متباينة إلى حد كبير.