العلامة المائية الجديدة لـ OpenAI ستجعل مشاكل الصور المزيفة لدينا أسوأ
أعلنت شركة OpenAI أنها أضافت علامات مائية إلى الصور التي تم إنشاؤها بواسطة أدوات الذكاء الاصطناعي الخاصة بها يوم الثلاثاء، في محاولة لمكافحة المخاوف المتزايدة بشأن تسونامي العميق القادم. ستتضمن الصور التي تم إنشاؤها باستخدام DALL-E وخدمات OpenAI الأخرى علامة مائية مرئية وتفاصيل أخرى حول أصلها في البيانات الوصفية – وهي المعلومات المشفرة في الملف الذي تم إنشاؤه. إليك المشكلة: كل ما عليك فعله لإزالة العلامة المائية للبيانات التعريفية هو التقاط لقطة شاشة. وهذا يعني أن “الحل” الذي تقدمه شركة OpenAI قد يجعلك أكثر حيرة، وليس أقل، بمجرد دخوله حيز التنفيذ.
تخيل أنك تنظر إلى صورة مشبوهة. إذا قمت بفحص واكتشاف العلامة المائية AI، فسيتم إغلاق الحالة. ولكن إذا كنت تنظر إلى صورة تم إنشاؤها بواسطة الذكاء الاصطناعي وتمت إزالة العلامة المائية الخاصة بها، فإن التحقق من البيانات الوصفية قد يمنحك إحساسًا زائفًا بالأمان. بمعنى آخر، البحث عن العلامة المائية قد يعني في الواقع أن لديك معلومات أقل مما كانت عليه عندما بدأت.
يوضح OpenAI نفسه أنكم قد تقومون بإزالة العلامة المائية عن طريق الصدفة. عندما تقوم بتحميل صورة إلى وسائل التواصل الاجتماعي، تقوم معظم الأنظمة الأساسية تلقائيًا بإزالة البيانات الوصفية من الملف لأنه قد يحدث ذلك في بعض الأحيان الكشف عن المعلومات الشخصية للمستخدم. لذا، عندما تقوم بنشر أحد إبداعاتك باستخدام الذكاء الاصطناعي على Instagram، فقد تتسبب عن غير قصد في إخفاق الصورة المزيفة.
وتؤكد الشركة أن هذه لا تزال فكرة جيدة. “نحن نعتقد أن اعتماد هذه الأساليب لتحديد المصدر وتشجيع المستخدمين على التعرف على هذه الإشارات هو المفتاح لزيادة موثوقية المعلومات الرقمية”، كتب OpenAI في مقال: مشاركة مدونة. ومع ذلك، تعترف الشركة بأن العلامة المائية “ليست حلاً سحريًا”. ولم تستجب OpenAI على الفور لطلب التعليق.
لا يمكن لـ OpenAI أن تتحمل كل اللوم هنا. تتبنى الشركة معيارًا جديدًا تم تطويره من قبل التحالف من أجل مصدر المحتوى والأصالة (C2PA)، وهي مبادرة تقودها Adobe بالشراكة مع مجموعة متنوعة من الشركات بما في ذلك الذراع، وBBC، وIntel، وMicrosoft، ونيويورك تايمز، وX/ تويتر. أعلنت Meta أنها ستضيف علاماتها الخاصة للصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي، على الرغم من أنه ليس من الواضح بالضبط كيف تخطط الشركة لدمج معيار C2PA.
يمكنك بالفعل تشغيل صورة من خلال نظام فحص AI تم تطويره باستخدام C2PA يسمى التحقق من بيانات اعتماد المحتوى. فقط لا تفترض أنك آمن إذا ظهرت صورتك بوضوح.
