جوجل ومايكروسوفت تقدمان مبلغًا زهيدًا بقيمة 10 ملايين دولار لحماية العالم من الذكاء الاصطناعي

يجتمع عدد قليل من الشركات الكبرى التي تدعم الذكاء الاصطناعي، بما في ذلك عملاقا وادي السيليكون جوجل ومايكروسوفت جنبًا إلى جنب مع OpenAI وAnthropic، لدفع هيئة الصناعة الخاصة بها لتصبح المعقل الرئيسي للذكاء الاصطناعي. سلامة الذكاء الاصطناعي. أول هدية تقدمها هذه الشركات التي تبلغ قيمتها مليارات الدولارات لمنتدى الذكاء الاصطناعي الناشئ هي مدير جديد ومبلغ زهيد قدره 10 ملايين دولار لإدارة العالم بأكمله بطريقة أو بأخرى على الذكاء الاصطناعي الأخلاقي.

شركات الذكاء الاصطناعي هذه أولاً مكشوف عاد منتدى Frontier Model Forum في شهر يوليو بهدف معلن وهو تطوير أبحاث سلامة الذكاء الاصطناعي وتعزيز التطوير المسؤول للذكاء الاصطناعي. هدف مجموعة الصناعة هو الترويج لمدى عظمة الذكاء الاصطناعي ولكن محدوديته حاليًا.

الشركات مشترك يوم الأربعاء أنهم وجدوا قائدًا جديدًا لقيادة مجموعة الصناعة. وسيتولى كريس ميسيرول، الذي عمل مؤخرًا مديرًا لمجموعة أبحاث الذكاء الاصطناعي التابعة لمعهد بروكينجز، منصب المدير التنفيذي لمنتدى فرونتير. وقال الخبير في مجال سلامة الذكاء الاصطناعي في البيان: “لتحقيق إمكاناتها، نحتاج إلى فهم أفضل لكيفية تطويرها وتقييمها بأمان”.

وإلى جانب القيادة الجديدة، تجري جولة التمويل الأولى للمنظمة والتي يبلغ مجموعها ما يزيد قليلاً عن 10 ملايين دولار. ولا يأتي ذلك من الشركات فحسب، بل من عدد قليل من المنظمات الخيرية التي تروج أيضًا للذكاء الاصطناعي. تدعي الشركات أن الهدف الرئيسي للصندوق هو إيجاد طرق جديدة للفريق الأحمر (AKA لفحص واختبار) أحدث وأكبر نماذج الذكاء الاصطناعي. لن يكون للصندوق مساحة معملية خاصة به، في حد ذاته، ولكنه سيستفيد من الفرق الموجودة لدى الشركات الشريكة.

لوضع تلك الـ 10 ملايين دولار في المنظور، لقد ضخت مايكروسوفت بالفعل مليارات الدولارات في OpenAI لتوسيع نطاق وصولها إلى المزيد من النماذج اللغوية. ضخت أمازون مؤخرًا 4 مليارات دولار في الأنثروبيك لتطوير المزيد من نماذج الذكاء الاصطناعي لخدمات أمازون.

لا يزال الوقت مبكرًا، لكن الصندوق يشبه إلى حد كبير مؤسسة ترويج الصناعة المتوسطة. لا يزال يتعين على الصندوق إنشاء مجلس استشاري يتمتع “بمجموعة من وجهات النظر والخبرات”، على الرغم من أنه ليس من الواضح عدد المتشككين في الذكاء الاصطناعي الذين سيشاركون والذين يمكنهم تقديم وجهة نظر مضادة لموقف الصندوق الحذر والمتوهج تجاه الذكاء الاصطناعي الجديد. تطوير.

تحاول كل من Google وMicrosoft التأكيد على كيفية عملهما بالفعل لتقليل مخاطر الذكاء الاصطناعي، كل ذلك مع دفع الذكاء الاصطناعي التوليدي إلى أقصى حد ممكن من خلال تنفيذه عمليًا في جميع منتجاتهم الجديدة المخصصة للمستخدم. قامت الشركات بالترويج ووقعت مع أ البيت الأبيض يتعهد بتطوير الذكاء الاصطناعي بشكل أخلاقي. ادعى عملاقا التكنولوجيا إلى جانب شركتي VC المحبوبتين OpenAI وAnthropic أنهما سيشرفان على “الذكاء الاصطناعي الجدير بالثقة”، ولكن من الصعب أخذ التعهد على محمل الجد عندما ومن بين صفوفهم كبار المقاولين العسكريين مثل شركة بلانتير.

سيكون على الصندوق أن يقطع عليه العمل. قدمت مؤسسة المراقبة الدولية (IWF) ومقرها المملكة المتحدة طلبًا تقرير يوم الأربعاء، أشارت إلى أنها اكتشفت أكثر من 20 ألف صورة تم إنشاؤها بواسطة الذكاء الاصطناعي وتم نشرها في منتدى الويب المظلم لنشر مواد الاعتداء الجنسي على الأطفال. ومن بين هؤلاء، وجد المحللون أن أكثر من نصفهم كان غير قانوني بشكل واضح بموجب قوانين المملكة المتحدة. قال IWF إن المستخدمين في هذه المنتديات كانوا يشاركون بنشاط النصائح والحيل لإنشاء هذه الصور باستخدام مولدات فنية تعمل بالذكاء الاصطناعي.

وكتبت سوزي هارجريفز، الرئيس التنفيذي للاتحاد الدولي لرفع الأثقال، في التقرير: “نحن قلقون للغاية من أن هذا سيخفض حاجز دخول المجرمين، ومن الممكن أن يبطئ استجابة المجتمع الدولي لهذه الجريمة البغيضة”. طلبت مجموعة المراقبة من الحكومة السماح لهم بفحص بيانات التدريب الخاصة بالذكاء الاصطناعي والتي تشتهر بأنها غامضة

تعد مجموعة المراقبة هذه واحدة من العديد من المجموعات المعنية بهذا النوع من صور الذكاء الاصطناعي. ولاية لويزيانا بالفعل أصدر قانونًا يحظر التزييف العميق الجنسي للقاصرين مرة أخرى في يوليو. في الشهر الماضي، محاكم كوريا الجنوبية محكوم عليه رجل بالسجن لمدة عامين ونصف لأنه أنشأ مئات من صور AI CSAM.

ليس الأمر وكأن هذه الشركات التي تعمل على تطوير الذكاء الاصطناعي تعارض التنظيم. على السطح، الشركة كبار المديرين التنفيذيين كلهم ​​من أجل ذلك، رغم ذلك فقط النوع الذي لن يعيقهم عن تطوير نماذج ذكاء اصطناعي أكبر. على الرغم من أن التعاون بين الصناعات يعد أمرًا جيدًا لبناء ذكاء اصطناعي أكثر أخلاقية، إلا أن الصندوق هو ببساطة وسيلة لهذه الشركات لمواصلة القيام بما تفعله بالفعل.