OpenAI تخشى إطلاق أداة اكتشاف ChatGPT التي قد تثير غضب الغشاشين
يتمتع OpenAI، صانع ChatGPT، بميزات بحث وصوت جديدة في الطريق، ولكنه يمتلك أيضًا أداة تحت تصرفه يُقال إنها جيدة جدًا في التقاط كل تلك المقالات المزيفة التي تم إنشاؤها بواسطة الذكاء الاصطناعي والتي تراها على الإنترنت في الوقت الحاضر. لقد ظلت الشركة تعمل على هذا النظام منذ ما يقرب من عامين، وكل ما يتعين عليها فعله هو تشغيله. ومع ذلك، لا تزال الشركة التي يقودها Sam Altman تفكر فيما إذا كانت ستصدره أم لا، لأن ذلك قد يثير غضب أكبر معجبي OpenAI.
هذا ليس ذلك خوارزمية الكشف عن الذكاء الاصطناعي البائدة أطلقت الشركة في عام 2023، ولكن شيء أكثر دقة. شركة OpenAI مترددة في إطلاق أداة الكشف عن الذكاء الاصطناعي هذه، وفقًا لتقرير صادر عن وول ستريت جورنال يوم الأحد بناء على بعض المصادر المجهولة من داخل الشركة. البرنامج عبارة عن نظام علامات مائية يعمل بالذكاء الاصطناعي يقوم بطباعة النص الذي تم إنشاؤه بواسطة الذكاء الاصطناعي بأنماط معينة يمكن لأداته اكتشافها. مثل أجهزة كشف الذكاء الاصطناعي الأخرى، يقوم نظام OpenAI بتسجيل مستند بنسبة مئوية من مدى احتمالية إنشائه باستخدام ChatGPT.
ويقال إن البرنامج المفترض فعال بنسبة 99.9% بناءً على الوثائق الداخلية، وفقًا لصحيفة وول ستريت جورنال. سيكون هذا أفضل بكثير من الفعالية المعلنة لـ برامج كشف الذكاء الاصطناعي الأخرى تطورت خلال العامين الماضيين. هذا على الأرجح لأن OpenAI لديه إمكانية الوصول إلى الخلطة السرية الخاصة به. يقول المؤيدون الداخليون للبرنامج إنه سيفعل الكثير لمساعدة المعلمين على معرفة متى يقوم طلابهم بتسليم الواجبات المنزلية التي ينشئها الذكاء الاصطناعي.
يقال إن الشركة جلست على هذا البرنامج لسنوات بسبب مخاوف من أن ما يقرب من ثلث قاعدة مستخدميها لن يعجبهم. تواصلت Gizmodo مع OpenAI للتعليق، لكننا لم نسمع أي رد على الفور. أخبرت الشركة وول ستريت جورنال أن التكنولوجيا تنطوي على “مخاطر مهمة نقوم بتقييمها أثناء بحثنا عن البدائل”.
المشكلة الأخرى التي تواجه OpenAI هي القلق من أنه إذا أطلقت أداتها على نطاق واسع بما فيه الكفاية، فقد يتمكن شخص ما من فك تشفير تقنية العلامات المائية الخاصة بـ OpenAI. هناك أيضًا مشكلة قد تكون كذلك متحيز ضد الناطقين باللغة الإنجليزية غير الأصليين.
جوجل وضعت أيضا مماثلة تقنيات العلامات المائية للصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي والنص يسمى معرف Synth. هذا البرنامج غير متاح لمعظم المستهلكين، ولكن على الأقل الشركة منفتحة بشأن وجوده.
مع سرعة تطوير شركات التكنولوجيا الكبرى لطرق جديدة لنشر النصوص والصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي على الإنترنت، فإن أدوات الكشف عن المنتجات المزيفة ليست بنفس القدر من الكفاءة. يواجه المعلمون والأساتذة وخاصةً صعوبة في اكتشاف ما إذا كان طلابهم يقومون بتسليم المهام المكتوبة بواسطة ChatGPT. أدوات الكشف عن الذكاء الاصطناعي الحالية مثل تورنيتين لديها نسبة فشل تصل إلى 15٪. وقالت الشركة إنها تفعل ذلك لتجنب النتائج الإيجابية الكاذبة.
