أجهزة الكشف عن الذكاء الاصطناعي تخطئ. يتم طرد الكتاب على أي حال

كيمبرلي جاسوراس لا تستخدم الذكاء الاصطناعي. قالت: “لست بحاجة إليها”. “لقد كنت مراسلًا إخباريًا لمدة 24 عامًا. كيف تعتقد أنني فعلت كل هذا العمل؟ ” ولم يكن هذا المنطق كافيا لإنقاذ وظيفتها.

كصحفي محلي في بوكيروس، أوهايو، يعتمد جاسوراس على الأعمال الجانبية لدفع الفواتير. لفترة من الوقت، كسبت أموالًا جيدة من خلال منصة للكتابة المستقلة تسمى WritersAccess، حيث كتبت مدونات ومحتويات أخرى للشركات الصغيرة ومتوسطة الحجم. ولكن في منتصف عام 2023، انخفض الدخل مع تحول بعض العملاء إلى ChatGPT لتلبية احتياجاتهم الكتابية. لقد كان بالفعل وقتًا عصيبًا. ثم جاء البريد الإلكتروني.

قال جاسوراس: “لقد تلقيت تحذيرًا واحدًا فقط”. “لقد تلقيت هذه الرسالة التي تفيد بأنهم قد وضعوا علامة على عملي على أنه ذكاء اصطناعي باستخدام أداة تسمى “الأصالة”. لقد شعرت بالذهول. ردت جاسوراس للدفاع عن براءتها، لكنها لم تتلق أي رد. الأصالة تكلف مالاً، لكن جاسوراس بدأت في إدارة عملها من خلال أجهزة كشف أخرى تعمل بالذكاء الاصطناعي قبل إرسالها للتأكد من عدم تعرضها للخداع عن طريق الخطأ. وبعد بضعة أشهر، طردتها WritersAccess من المنصة على أية حال. “قالوا إن حسابي تم تعليقه بسبب الاستخدام المفرط للذكاء الاصطناعي. وقال جاسوراس: “لم أستطع أن أصدق ذلك”. لم يستجب WritersAccess لطلب التعليق.

عندما أشعل ChatGPT النار في العالم قبل عام ونصف، أثار بحثًا محمومًا عن طرق للقبض على الأشخاص الذين يحاولون تمرير نص الذكاء الاصطناعي على أنه كتاباتهم الخاصة. تم إطلاق مجموعة من الشركات الناشئة لملء الفراغ من خلال أدوات الكشف عن الذكاء الاصطناعي، بأسماء تشمل Copyleaks وGPTZero وOriginality.AI وWinston AI. إنه يؤدي إلى عمل مرتب في بيئة مليئة ببعبع الذكاء الاصطناعي.

تعلن هذه الشركات عن راحة البال، وهي وسيلة لاستعادة السيطرة من خلال “الإثبات” و”المساءلة”. يعلن البعض عن معدلات دقة تصل إلى 99.98%. لكن مجموعة متزايدة من الخبراء والدراسات والمطلعين على الصناعة يقولون إن هذه الأدوات أقل موثوقية بكثير مما يعد به صانعوها. ليس هناك شك في أن أجهزة كشف الذكاء الاصطناعي ترتكب أخطاء متكررة، وقد يقع المارة الأبرياء في مرمى النيران. لا يحصى تم اتهام الطلاب بالسرقة الأدبية بواسطة الذكاء الاصطناعيلكن هناك وباء أكثر هدوءًا يحدث في العالم المهني. بعض بدأت حفلات الكتابة في النضوب بفضل برامج الدردشة الآلية. بينما يتقاتل الناس على مجال العمل المتضائل، يفقد الكتاب وظائفهم بسبب اتهامات كاذبة من أجهزة كشف الذكاء الاصطناعي.

قال بارس يوهاسز، المؤسس المشارك لشركة Undetectable AI، التي تصنع أدوات لمساعدة الأشخاص على إضفاء طابع إنساني على نص الذكاء الاصطناعي لتسلله عبر برامج الكشف: “هذه التكنولوجيا لا تعمل بالطريقة التي يعلن بها الناس عنها”. “لدينا الكثير من المخاوف بشأن موثوقية عملية التدريب التي تستخدمها أجهزة كشف الذكاء الاصطناعي هذه. يزعم هؤلاء الأشخاص أن لديهم دقة تبلغ 99%، وبناءً على عملنا، أعتقد أن هذا مستحيل. ولكن حتى لو كان هذا صحيحًا، فهذا يعني أنه سيكون هناك علم زائف واحد لكل 100 شخص. نحن نتحدث عن سبل عيش الناس وسمعتهم”.

حماية أم زيت الثعبان؟

بشكل عام، تعمل أجهزة كشف الذكاء الاصطناعي من خلال اكتشاف السمات المميزة لخط الذكاء الاصطناعي، مثل القواعد النحوية وعلامات الترقيم المثالية. في الواقع، إحدى أسهل الطرق لوضع علامة على عملك هي استخدام Grammarly، وهي أداة تتحقق من الأخطاء الإملائية والنحوية. بل إنه يقترح طرقًا لإعادة كتابة الجمل من أجل الوضوح باستخدام الذكاء الاصطناعي. ومما زاد الطين بلة، تحدث Gizmodo إلى الكتاب الذين قالوا إنهم طُردوا من قبل منصات تطلبت منهم استخدام Grammarly. (أكدت Gizmodo تفاصيل هذه القصص، لكننا نستبعد أسماء بعض المنصات المستقلة لأن الكتاب وقعوا على اتفاقيات عدم الإفصاح).

وتبحث أجهزة الكشف عن عوامل أكثر دلالة أيضًا، مثل “الانفجار”. من المرجح أن يعيد الكتّاب البشريون استخدام كلمات معينة في مجموعات أو دفعات، بينما من المرجح أن يقوم الذكاء الاصطناعي بتوزيع الكلمات بالتساوي عبر المستند. يمكن لكاشفات الذكاء الاصطناعي أيضًا تقييم “الحيرة”، والتي تطلب بشكل أساسي من الذكاء الاصطناعي قياس احتمالية إنتاجه لجزء من النص في ضوء بيانات التدريب الخاصة بالنموذج. تقوم بعض الشركات، مثل شركة Originaility.AI الرائدة في الصناعة، بتدريب نماذج لغة الذكاء الاصطناعي الخاصة بها والمصممة خصيصًا لاكتشاف عمل أنظمة الذكاء الاصطناعي الأخرى، والتي تهدف إلى اكتشاف الأنماط المعقدة للغاية بالنسبة للعقل البشري.

ومع ذلك، فإن أياً من هذه التقنيات ليست مضمونة، وقد تراجعت العديد من المؤسسات الكبرى عن هذه الفئة من الأدوات. أصدرت OpenAI كاشف الذكاء الاصطناعي الخاص بها لتهدئة المخاوف بشأن منتجاتها في عام 2023، لكنها سحبت الأداة من السوق بعد أشهر فقط “بسبب معدل دقة منخفض“. كان العالم الأكاديمي أول من اعتمد أجهزة كشف الذكاء الاصطناعي، لكن الاتهامات الكاذبة دفعت قائمة طويلة من الجامعات إلى ذلك حظر استخدام برامج الكشف عن الذكاء الاصطناعي، بما في ذلك فاندربيلت، ولاية ميشيغان، نورث وسترن، وجامعة تكساس في أوستن.

وقالت ديبورا ويبر وولف، الأستاذة في جامعة العلوم التطبيقية للهندسة والاقتصاد في برلين، والتي شاركت في تأليف بحث جديد، إن شركات الكشف عن الذكاء الاصطناعي “تعمل في مجال بيع زيت الثعبان”. ورقة حديثة حول فعالية الكشف عن الذكاء الاصطناعي. وفقًا لـ Weber-Wulff، تظهر الأبحاث أن أجهزة الكشف عن الذكاء الاصطناعي غير دقيقة وغير موثوقة وسهلة الخداع. وقالت: “يريد الناس أن يصدقوا أنه يمكن أن يكون هناك بعض البرامج السحرية التي تحل مشاكلهم”. لكن “برامج الكمبيوتر لا تستطيع حل المشاكل الاجتماعية. علينا أن نجد حلولا أخرى.”

تقول الشركات التي تصنع أجهزة كشف الذكاء الاصطناعي إنها أداة ضرورية ولكنها غير مثالية في عالم غارق في النصوص التي ينشئها الروبوت. هناك طلب كبير على هذه الخدمات، سواء كانت فعالة أم لا.

وقال أليكس كوي، كبير مسؤولي التكنولوجيا في شركة كشف الذكاء الاصطناعي GPTZero، إن أجهزة الكشف لديها عيوب كبيرة، لكن الفوائد تفوق العيوب. “نحن نرى مستقبلًا، إذا لم يتغير شيء، يصبح الإنترنت خاضعًا للذكاء الاصطناعي أكثر فأكثر، سواء كان ذلك أخبارًا أو مقالات يراجعها النظراء أو تسويقًا. قال كوي: “أنت لا تعرف حتى ما إذا كان الشخص الذي تتحدث معه على وسائل التواصل الاجتماعي حقيقيًا”. “نحن بحاجة إلى حل لتأكيد المعرفة بشكل جماعي، وتحديد ما إذا كان المحتوى عالي الجودة، وأصلي، وذو تأليف شرعي.”

شر لا بد منه؟

قال مارك، وهو مؤلف إعلانات آخر مقيم في أوهايو، والذي طلب منا حجب اسمه لتجنب التداعيات المهنية، إنه اضطر إلى قبول عمل في الصيانة في متجر محلي بعد أن كلفه كاشف الذكاء الاصطناعي وظيفته.

قال مارك: “لقد تلقيت بريدًا إلكترونيًا يفيد بأن مقالتي الأخيرة سجلت احتمالًا بنسبة 95% لتوليد الذكاء الاصطناعي”. “لقد كنت في حالة صدمة. لقد كان أمرًا سخيفًا أنهم اتهموني بعد العمل معًا لمدة ثلاث سنوات، قبل وقت طويل من توفر ChatGPT.

حاول التراجع. أرسل مارك إلى موكله نسخة من مستند Google حيث قام بصياغة المقالة، والتي تضمنت طوابع زمنية توضح أنه كتب المستند يدويًا. لم يكن كافيا. انهارت علاقة مارك بمنصة الكتابة. وقال إن فقدان الوظيفة كلفه 90% من دخله.

قال جوناثان جيلهام، الرئيس التنفيذي لشركة Originality.AI: “إننا نسمع هذه القصص أكثر مما نتمنى، ونتفهم الألم الذي تسببه الإيجابيات الكاذبة للكتاب عندما يتم اتهام العمل الذي بذلوا فيه قلوبهم وأرواحهم زوراً”. “نشعر وكأننا نبني أداة لمساعدة الكتّاب، لكننا نعلم أنه في بعض الأحيان يكون لذلك بعض العواقب”.

لكن وفقًا لجيلهام، فإن المشكلة تتعلق بما هو أكثر من مجرد مساعدة الكتّاب أو توفير المساءلة. وقال: “إن جوجل تلاحق البريد الإلكتروني العشوائي الذي يعتمد على الذكاء الاصطناعي بقوة”. “لقد سمعنا من الشركات التي قامت جوجل بإلغاء فهرسة موقعها بالكامل أنها لم تكن تعلم حتى أن كتابها يستخدمون الذكاء الاصطناعي.”

صحيح أن الإنترنت يتم غمره مزارع المحتوى منخفضة الجهد التي تضخ مقالات الذكاء الاصطناعي غير المرغوب فيها في محاولة للتلاعب بنتائج البحث والحصول على النقرات وكسب أموال الإعلانات من تلك مقل العيون. جوجل تتخذ إجراءات صارمة ضد هذه المواقعمما دفع بعض الشركات إلى الاعتقاد بأن مواقعها الإلكترونية سيتم تصنيفها في مرتبة أدنى إذا اكتشفت Google أي كتابة للذكاء الاصطناعي على الإطلاق. وهذه مشكلة للشركات القائمة على الويب، وهي على نحو متزايد نقطة البيع رقم 1 لأجهزة كشف الذكاء الاصطناعي. تروج الأصالة لنفسها كوسيلة “لإثبات موقعك على Google في المستقبل” في أعلى قائمة المزايا على صفحتها الرئيسية.

وقال متحدث باسم جوجل إن هذا يسيء تفسير سياسات الشركة تمامًا. قالت شركة Google، الشركة التي توفر الذكاء الاصطناعي، إنها ليس لديها مشكلة مع محتوى الذكاء الاصطناعي في حد ذاته. وقال المتحدث: “من غير الدقيق القول إن جوجل تعاقب مواقع الويب لمجرد أنها قد تستخدم بعض المحتوى الناتج عن الذكاء الاصطناعي”. “كما ذكرنا بوضوح، فإن المحتوى منخفض القيمة الذي يتم إنشاؤه على نطاق واسع للتلاعب بتصنيفات البحث يعد محتوى غير مرغوب فيه، أيًا كانت طريقة إنتاجه. تحدد أنظمتنا الآلية ما يظهر في أهم نتائج البحث بناءً على إشارات تشير إلى ما إذا كان المحتوى مفيدًا وعالي الجودة.

رسائل مختلطة

لا أحد يدعي أن أجهزة كشف الذكاء الاصطناعي مثالية، بما في ذلك الشركات التي تصنعها. لكن أدوات الأصالة وغيرها من أدوات الكشف عن الذكاء الاصطناعي ترسل رسائل مختلطة حول كيفية استخدام أدواتها. على سبيل المثال، قال غيلهام: “نحن ننصح بعدم استخدام الأداة داخل الأوساط الأكاديمية، ونوصي بشدة بعدم استخدامها لاتخاذ إجراءات تأديبية”. وأوضح أن خطر النتائج الإيجابية الكاذبة مرتفع جدًا بالنسبة للطلاب، لأنهم يقدمون عددًا صغيرًا من المقالات طوال العام الدراسي، لكن حجم العمل الذي ينتجه كاتب محترف يعني أن الخوارزمية لديها فرص أكبر لإنجازها بشكل صحيح. ومع ذلك، على واحدة من الشركة مشاركات المدونةتقول الأصالة أن اكتشاف الذكاء الاصطناعي يعد أمرًا “ضروريًا” في الفصل الدراسي.

ثم هناك أسئلة حول كيفية عرض النتائج. قال العديد من الكتّاب الذين تحدثت معهم Gizmodo إن عملائهم لا يفهمون القيود المفروضة على أجهزة الكشف عن الذكاء الاصطناعي أو حتى ما تقوله النتائج فعليًا. من السهل أن ترى كيف يمكن أن يتم الخلط بين شخص ما: لقد قمت بتشغيل إحدى مقالاتي الخاصة من خلال كاشف الذكاء الاصطناعي الخاص بـ Originality. وكانت النتائج “70% أصلي” و”30% الذكاء الاصطناعي”. قد تفترض أن هذا يعني أن الأصالة حددت أن 30% من المقالة كتبها برنامج دردشة آلي، خاصة وأن الأداة تسلط الضوء على جمل محددة تجدها مشبوهة. ومع ذلك، فهي في الواقع درجة ثقة؛ الأصالة هي التأكد بنسبة 70% من أن الإنسان هو من كتب النص. (لقد كتبت كل شيء بنفسي، ولكن عليك فقط أن تصدق كلامي).

ثم هناك الطريقة التي تصف بها الشركة الخوارزمية الخاصة بها. وفقًا لـ Originality، فإن أحدث إصدار من أداتها يتمتع بمعدل دقة يصل إلى 98.8%، لكن Originality تقول أيضًا أن معدلها الإيجابي الكاذب يبلغ 2.8%. إذا كانت الآلة الحاسبة في متناول يدك، ستلاحظ أن مجموعها يصل إلى أكثر من 100%. قال غيلهام إن السبب في ذلك هو أن هذه الأرقام تأتي من اختبارين مختلفين.

دفاعًا عن Originality، تقدم الشركة شرحًا تفصيليًا لكيفية تفسير المعلومات الموجودة أسفل النتائج مباشرةً، بالإضافة إلى روابط لمزيد من المقالات التفصيلية حول كيفية استخدام الأداة. يبدو أن هذا ليس كافيًا. تحدثت Gizmodo إلى العديد من الكتاب الذين قالوا إنهم اضطروا إلى الجدال مع العملاء الذين أساءوا فهم أداة الأصالة.

نشرت الأصالة العديد مشاركات المدونة ودراسات حول الدقة وقضايا أخرى، بما في ذلك مجموعة البيانات والمنهجية التي استخدمتها لتطوير وقياس أدواتها الخاصة. ومع ذلك، قال ويبر وولف من جامعة العلوم التطبيقية للهندسة والاقتصاد في برلين إن التفاصيل المتعلقة بمنهجية الأصالة “لم تكن بهذا الوضوح”.

قال عدد من الخبراء الذين تحدثت إليهم Gizmodo، مثل Juhasz من Undetectable AI، إن لديهم مخاوف بشأن قيام الشركات عبر صناعة الكشف عن الذكاء الاصطناعي بتضخيم معدلات الدقة وتضليل عملائها. وقال ممثلو GPTZero وOriginality AI إن شركاتهم ملتزمة بالانفتاح والشفافية. قالت الشركتان إنهما تبذلان قصارى جهدهما لتقديم معلومات واضحة حول القيود وأوجه القصور في أدواتهما.

قد يبدو الأمر وكأن الوقوف ضد أجهزة كشف الذكاء الاصطناعي هو بمثابة الوقوف إلى جانب الكتّاب، ولكن وفقًا لجيلهام، فإن العكس هو الصحيح. وقال: “إذا لم يكن هناك كاشفات، فإن المنافسة على كتابة الوظائف تزداد ونتيجة لذلك تنخفض الأجور”. “أجهزة الكشف هي الفرق بين قدرة الكاتب على القيام بعمله، وإرسال المحتوى، والحصول على تعويض عنه، وبين قدرة شخص ما على نسخ شيء ما ولصقه من ChatGPT.”

من ناحية أخرى، قال جميع مؤلفي النصوص الذين تحدثت معهم Gizmodo إن أجهزة كشف الذكاء الاصطناعي هي المشكلة.

“الذكاء الاصطناعي هو المستقبل. لا يوجد شيء يمكننا القيام به لوقف ذلك، ولكن في رأيي ليست هذه هي القضية. قال مارك: “أستطيع أن أرى الكثير من الطرق التي يمكن أن يكون بها الذكاء الاصطناعي مفيدًا”. “إنها أجهزة الكشف هذه. إنهم هم الذين يقولون بكل يقين أنهم قادرون على اكتشاف الكتابة باستخدام الذكاء الاصطناعي، وهم الذين يجعلون عملائنا في حالة من التوتر والذعر ويطردوننا من الوظائف.