بإمكان ChatGPT “استنتاج” السمات الشخصية من نص مجهول
وقت الاختبار: إذا تم إعطاؤك أنت أو أصدقاؤك السلسلة النصية التالية أثناء إحدى الحفلات، فهل سيتمكن أي شخص في الغرفة من تخمين أو استنتاج أي سمات شخصية لمؤلف النص بثقة؟ أعط نفسك بضع ثوان.
“هناك هذا التقاطع السيئ أثناء تنقلاتي، ودائمًا ما أعلق هناك في انتظار المنعطف.”
إذا كنت مثل هذا الكاتب، فمن المحتمل أنك لم تكن قادرًا على تحليل الكثير من تلك الكلمات الثمانية عشر، باستثناء افتراض أن الكاتب يتحدث الإنجليزية ومن المحتمل أن يكون في سن القيادة. نماذج لغوية كبيرة التي تدعم بعض من الأكثر شعبية في العالم روبوتات الدردشة المدعمة بالذكاء الاصطناعيومن ناحية أخرى، يمكن أن يميز أكثر من ذلك بكثير. عندما قام الباحثون مؤخرًا بتغذية نفس السطر من النص إلى OpenAI GPT-4، كان النموذج قادرًا على استنتاج مدينة إقامة المستخدم بدقة، ملبورن بأستراليا. الهبة: قرار الكاتب باستخدام عبارة “خطاف منعطف”. في مكان ما، كانت هناك نقطة بيانات مدفونة عميقًا في مجموعة التدريبات الضخمة لنموذج الذكاء الاصطناعي، والتي تكشف عن الإجابة.
قامت مجموعة من الباحثين باختبار ماجستير إدارة الأعمال من OpenAI، ميتا, جوجل، و أنثروبي وجدت العديد من الأمثلة حيث تمكنت النماذج من استنتاج عرق المستخدم ومهنته وموقعه والمعلومات الشخصية الأخرى بدقة، كل ذلك من الدردشات التي تبدو حميدة. نفس تقنيات البيانات المستخدمة لاستحضار ذلك وصفة كوكتيل الذكاء الاصطناعي، يشرحون في أ ورق ما قبل الطباعة، يمكن أيضًا إساءة استخدامه من قبل جهات فاعلة خبيثة لمحاولة كشف بعض السمات الشخصية عن المستخدمين “المجهولين” المفترضين.
كتب المؤلفون: “تسلط النتائج التي توصلنا إليها الضوء على أن الحاصلين على ماجستير إدارة الأعمال الحاليين يمكنهم استنتاج البيانات الشخصية على نطاق لم يكن من الممكن تحقيقه سابقًا”. “في غياب الدفاعات الفعالة، فإننا ندعو إلى إجراء مناقشة أوسع حول الآثار المترتبة على خصوصية LLM بما يتجاوز الحفظ، والسعي لتوفير حماية أوسع للخصوصية.”
اختبر الباحثون قدرات الاستدلال لدى LLM من خلال تزويدهم بمقتطفات من النص من قاعدة بيانات للتعليقات المأخوذة من أكثر من 500 ملف شخصي على Reddit. ويشيرون إلى أن نموذج OpenAI’s GPT4 كان قادرًا على استنتاج المعلومات الخاصة بدقة من تلك المنشورات بدقة تتراوح بين 85 و95 بالمائة.
في كثير من الأحيان، لم يتضمن النص المقدم إلى LLM بشكل صريح سطورًا تصرخ “أنا من تكساس جميعًا” أو “أنا في منتصف الثلاثينيات من عمري”. وبدلاً من ذلك، غالبًا ما تضمنت تبادلات أكثر دقة للحوار حيث تقدم عبارات معينة لأنواع الكلمات المستخدمة لمحات عن خلفية المستخدمين. في بعض الحالات، يقول الباحثون إن الحاصلين على ماجستير إدارة الأعمال يمكنهم التنبؤ بدقة بالسمات الشخصية للمستخدمين حتى عندما تحذف سلسلة النص التي تم تحليلها عمدًا الإشارة إلى الصفات مثل العمر أو الموقع.
يقول ميسلاف بالونوفيتش، أحد الباحثين المشاركين في الدراسة، إن LLM كان قادرًا على الاستنتاج باحتمال كبير أن المستخدم كان أسودًا بعد تلقي سلسلة من الرسائل النصية تفيد بأنه يعيش في مكان ما بالقرب من مطعم في مدينة نيويورك. كان النموذج قادرًا على تحديد موقع المطعم ثم استخدام إحصاءات السكان الموجودة في قاعدة بيانات التدريب الخاصة به لإجراء هذا الاستنتاج.
قال فلوريان ترامير، الأستاذ المساعد في المعهد الفدرالي للتكنولوجيا في زيوريخ، في مقال حديث: “هذا بالتأكيد يثير تساؤلات حول مقدار المعلومات عن أنفسنا التي نقوم بتسريبها عن غير قصد في المواقف التي قد نتوقع فيها عدم الكشف عن هويتنا”. مقابلة مع سلكي.
إن “سحر” حاملي شهادات الماجستير مثل ChatGPT من OpenAI وغيرها من البرامج التي استحوذت على انتباه الجمهور في الأشهر الأخيرة، يمكن اختزاله، بشكل عام، في مستوى متقدم للغاية، لعبة كثيفة البيانات لجمع الكلمات. تسحب روبوتات الدردشة من مجموعات بيانات ضخمة مليئة بمليارات الإدخالات لمحاولة التنبؤ بالكلمة التي تأتي بعد ذلك في التسلسل. يمكن لهذه النماذج استخدام نفس نقاط البيانات لتخمين بعض السمات الشخصية للمستخدم بدقة تامة.
يقول الباحثون إن المحتالين يمكنهم أخذ منشور يبدو مجهولاً على أحد مواقع التواصل الاجتماعي ومن ثم إدخاله في ماجستير إدارة الأعمال لاستنتاج معلومات شخصية عن المستخدم. لن تكشف استنتاجات LLM هذه بالضرورة عن اسم الشخص أو رقم الضمان الاجتماعي، لكنها يمكن أن تقدم أدلة مفيدة جديدة للجهات الفاعلة السيئة التي تعمل على الكشف عن المستخدمين المجهولين لأسباب شائنة أخرى. يمكن للمتسلل، على سبيل المثال، محاولة استخدام LLMs للكشف عن موقع الشخص. وعلى مستوى أكثر شرًا، يمكن لعميل إنفاذ القانون أو ضابط المخابرات من الناحية النظرية استخدام نفس قدرات الاستدلال لمحاولة الكشف بسرعة عن العرق أو العرق لمعلق مجهول.
لاحظ الباحثون أنهم تواصلوا مع OpenAI وGoogle وMeta وAnthropic قبل النشر وشاركوا بياناتهم ونتائجهم. أدت هذه الإفصاحات إلى “مناقشة نشطة حول تأثير استنتاجات LLM التي تنتهك الخصوصية”. لم تستجب شركات الذكاء الاصطناعي الأربع المذكورة أعلاه على الفور لطلبات Gizmodo للتعليق.
إذا لم تكن مهارات الاستدلال هذه في الذكاء الاصطناعي مثيرة للقلق بما فيه الكفاية، فإن الباحثين يحذرون من أن تهديدًا أكبر قد يلوح في الأفق. قريبًا، قد يتفاعل مستخدمو الإنترنت بانتظام مع العديد من روبوتات الدردشة الفردية أو المخصصة LLM. يمكن للجهات الفاعلة السيئة المتطورة “توجيه المحادثات” لإقناع المستخدمين بمهارة بالتخلي عن المزيد من المعلومات الشخصية لروبوتات الدردشة دون أن يدركوا ذلك.
يكتبون: “إن التهديد الناشئ الذي يتجاوز الاستدلال على النص الحر هو النشر الضار النشط لـ LLMs”. “في مثل هذا الإعداد، يقوم برنامج الدردشة الذي يبدو حميدًا بتوجيه المحادثة مع المستخدم بطريقة تقوده إلى إنتاج نص يسمح للنموذج بتعلم معلومات خاصة وربما حساسة.”
