قاوم الذكاء الاصطناعي عن طريق قتل مولدات الفن من الداخل

كيف يمكن للفنانين أن يأملوا في مقاومة أهواء شركات التكنولوجيا التي ترغب في استخدام أعمالهم لتدريب الذكاء الاصطناعي؟ لدى مجموعة من الباحثين فكرة جديدة: قم بإدخال سم خفي في الفن نفسه لقتل مولد الفن الذكاء الاصطناعي من الداخل إلى الخارج.

قال بن تشاو، أستاذ علوم الكمبيوتر في جامعة شيكاغو والناقد الصريح لممارسات استخراج البيانات في الذكاء الاصطناعي: مراجعة تكنولوجيا معهد ماساتشوستس للتكنولوجيا الأداة الجديدة التي ابتكرها هو وفريقه، والتي يطلق عليها اسم “Nightshade”، تفعل ما هو مكتوب على العلبة، أي تسمم أي نموذج يستخدم الصور لتدريب الذكاء الاصطناعي. حتى الآن، كان الخيار الوحيد أمام الفنانين لمكافحة شركات الذكاء الاصطناعي هو مقاضاتهم، أو أمل المطورين الالتزام بطلبات إلغاء الاشتراك الخاصة بالفنانين.

تعالج الأداة الصورة على مستوى البكسل، مما يؤدي إلى إتلافها بطريقة لا يمكن للعين المجردة اكتشافها. بمجرد استخدام ما يكفي من هذه الصور المشوهة لتدريب الذكاء الاصطناعي مثل الذكاء الاصطناعي المستقر انتشار مستقر XL، يبدأ النموذج بأكمله في الانهيار. بعد أن قدم الفريق عينات البيانات في إصدار SDXL، سيبدأ النموذج في تفسير المطالبة بكلمة “سيارة” على أنها “بقرة” بدلاً من ذلك. تم تفسير الكلب على أنه قطة، بينما تم تحويل القبعة إلى كعكة. وبالمثل، ظهرت أنماط مختلفة كلها متزعزعة. قدمت المطالبات بـ “الرسوم المتحركة” فنًا يذكرنا بالانطباعيين في القرن التاسع عشر.

كما عملت على الدفاع عن الفنانين الأفراد. إذا طلبت من SDXL إنشاء لوحة بأسلوب فنان الخيال العلمي والفنتازيا الشهير مايكل ويلان، فإن النموذج المسموم يخلق شيئًا أقل شبهاً بعملهم.

اعتمادًا على حجم نموذج الذكاء الاصطناعي، ستحتاج إلى مئات أو على الأرجح الآلاف من الصور المسمومة لإنشاء هذه الهلوسة الغريبة. ومع ذلك، فإنه قد يجبر جميع أولئك الذين يقومون بتطوير مولدات فنية جديدة للذكاء الاصطناعي على التفكير مرتين قبل استخدام بيانات التدريب المستخرجة من الإنترنت.

تواصلت Gizmodo مع Stability AI للتعليق، لكننا لم نسمع أي رد على الفور.

ما هي الأدوات التي يمتلكها الفنانون لمحاربة التدريب على الذكاء الاصطناعي؟

كان تشاو أيضًا قائد الفريق الذي ساعد في صنعه سطح أملس، أداة يمكنها إنشاء نوع من “عباءة النمط” لـ صور الفنانين الأقنعة. إنه يزعج بالمثل وحدات البكسل الموجودة في الصورة يضلل مولدات فنية تعمل بالذكاء الاصطناعي تحاول تقليد الفنان وعمله. صرح تشاو لـ MIT Technology Review أنه سيتم دمج Nightshade كأداة أخرى في Glaze، ولكن سيتم إصداره أيضًا في السوق مفتوح المصدر للمطورين الآخرين لإنشاء أدوات مماثلة.

وقد قام باحثون آخرون وجدت بعض طرق تحصين الصور من التلاعب المباشر بواسطة الذكاء الاصطناعي، لكن تلك التقنيات لم توقف تقنيات استخراج البيانات المستخدمة لتدريب مولدي الفن في المقام الأول. يعد Nightshade واحدًا من المحاولات القليلة، وربما الأكثر عدوانية حتى الآن، لتزويد الفنانين بفرصة لحماية أعمالهم.

هناك أيضًا جهود متزايدة لمحاولة التمييز بين الصور الحقيقية وتلك التي أنشأها الذكاء الاصطناعي. المملوكة لشركة جوجل تدعي شركة DeepMind أنها طورت معرفًا للعلامة المائية يمكنها تحديد ما إذا كانت الصورة قد تم إنشاؤها بواسطة الذكاء الاصطناعي، بغض النظر عن كيفية معالجتها. هذه الأنواع من العلامات المائية تفعل نفس الشيء الذي يفعله Nightshade بشكل فعال، حيث تتعامل مع وحدات البكسل بطريقة غير محسوسة بالعين المجردة. بعض من أكبر شركات الذكاء الاصطناعي لديها وعد بوضع علامة مائية على المحتوى الذي تم إنشاؤه المضي قدما، ولكن الجهود الحالية مثل تسميات AI للبيانات الوصفية من Adobe لا تقدم حقًا أي مستوى من الشفافية الحقيقية.

من المحتمل أن يكون Nightshade مدمرًا للشركات التي تستخدم أعمال الفنانين بنشاط لتدريب الذكاء الاصطناعي الخاص بها. مثل الوسام الفن. لقد كان مجتمع DeviantArt جميلًا بالفعل رد فعل سلبي إلى المولد الفني المدمج بالذكاء الاصطناعي في الموقع، وإذا قام عدد كافٍ من المستخدمين بتسمم صورهم، فقد يجبر ذلك المطورين على العثور على كل مثيل للصور المسمومة يدويًا أو إعادة تعيين التدريب على النموذج بأكمله.

ومع ذلك، لن يتمكن البرنامج من تغيير أي نماذج موجودة مثل SDXL أو صدر مؤخرا DALL-3. تم تدريب جميع هذه النماذج بالفعل على أعمال الفنانين السابقة. شركات مثل Stability AI، وMidjourney، وDeviantArt تمتلك هذه الميزة تم رفع دعوى قضائية بالفعل من قبل الفنانين لاستخدام أعمالهم المحمية بحقوق الطبع والنشر لتدريب الذكاء الاصطناعي. هناك العديد من الدعاوى القضائية الأخرى التي تهاجم مطوري الذكاء الاصطناعي مثل جوجل, ميتا، و OpenAI لاستخدام العمل المحمي بحقوق الطبع والنشر دون إذن. جادلت الشركات ومؤيدو الذكاء الاصطناعي بأنه نظرًا لأن الذكاء الاصطناعي التوليدي ينشئ محتوى جديدًا بناءً على بيانات التدريب، فإن جميع تلك الكتب والأوراق والصور والأعمال الفنية الموجودة في بيانات التدريب تندرج تحت الاستخدام العادل.

أشار مطورو OpenAI في ورقة ابحاث أن أحدث مولد فني لديهم يمكنه إنشاء صور أكثر واقعية لأنه تم تدريبه على التسميات التوضيحية التفصيلية التي تم إنشاؤها بواسطة أدوات الشركة المخصصة. لم تكشف الشركة عن مقدار البيانات التي تم إنفاقها فعليًا في تدريب نموذج الذكاء الاصطناعي الجديد الخاص بها (أصبحت معظم شركات الذكاء الاصطناعي مترددة في قول أي شيء عن بيانات تدريب الذكاء الاصطناعي الخاصة بها)، لكن الجهود المبذولة لمكافحة الذكاء الاصطناعي قد تتصاعد مع مرور الوقت. ومع تطور أدوات الذكاء الاصطناعي هذه، فإنها تتطلب المزيد من البيانات لتشغيلها، وقد يكون الفنانون على استعداد لاتخاذ تدابير أكبر لمكافحتها.