سيساعد الذكاء الاصطناعي من Google في تحديد ما إذا كان العمال العاطلين عن العمل سيحصلون على المزايا أم لا
وفي غضون الأشهر القليلة المقبلة، تخطط ولاية نيفادا لإطلاق نظام ذكاء اصطناعي توليدي مدعوم من شركة جوجل والذي سيقوم بتحليل نصوص جلسات الاستئناف الخاصة بالبطالة وإصدار توصيات إلى الحكام البشريين حول ما إذا كان ينبغي للمطالبين الحصول على المزايا أم لا.
سيكون النظام هو الأول من نوعه في البلاد ويمثل تجربة مهمة من قبل مسؤولي الدولة وجوجل في السماح للذكاء الاصطناعي التوليدي بالتأثير على قرار حكومي عالي المخاطر – قرار يمكن أن يضع آلاف الدولارات في جيوب العاطلين عن العمل في نيفادا أو يأخذها بعيد.
يقول المسؤولون في ولاية نيفادا إن نظام جوجل سيعمل على تسريع عملية الاستئناف – مما يقلل الوقت الذي يستغرقه الحكام لكتابة القرار من عدة ساعات إلى خمس دقائق فقط، في بعض الحالات – مما يساعد الولاية على العمل من خلال القضايا المتراكمة العنيدة التي ظلت معلقة منذ ذلك الحين. ذروة جائحة كوفيد-19.
ستقوم الأداة بإنشاء توصيات بناءً على نصوص الاستماع والوثائق الإثباتية، وتوفير تحليلها الخاص حول ما إذا كان يجب الموافقة على مطالبة البطالة للشخص أو رفضها أو تعديلها. وقال كريستوفر سيويل، مدير إدارة التوظيف والتدريب وإعادة التأهيل في نيفادا (DETR)، إن أحد المحكمين البشريين على الأقل سيقوم بعد ذلك بمراجعة كل توصية. إذا وافق الحكم على التوصية، فإنه سيوقع ويصدر القرار. إذا لم يوافقوا، سيقوم الحكم بمراجعة الوثيقة وسيقوم DETR بالتحقيق في التناقض.
وقال سيويل: “لا يوجد ذكاء اصطناعي (قرارات مكتوبة) تخرج دون تفاعل بشري ومراجعة بشرية”. “يمكننا إصدار القرارات بشكل أسرع حتى يساعد ذلك المدعي بالفعل.”
وقال علماء قضائيون، ومسؤول سابق في وزارة العمل الأمريكية، ومحامون يمثلون سكان نيفادا في جلسات الاستئناف لموقع جيزمودو إنهم يشعرون بالقلق من أن التركيز على السرعة يمكن أن يقوض أي حواجز حماية بشرية تضعها نيفادا.
قال مورجان شاه، مدير المشاركة المجتمعية في الخدمات القانونية في نيفادا: “إن توفير الوقت الذي يبحثون عنه لن يحدث إلا إذا كانت المراجعة سريعة جدًا”. “إذا قام شخص ما بمراجعة شيء ما بدقة وبشكل صحيح، فهو في الواقع لا يوفر الكثير من الوقت. في أي نقطة تقوم بإنشاء بيئة يتم فيها تشجيع الأشخاص على اتخاذ طريق مختصر؟
وأعربت ميشيل إيفرمور، النائبة السابقة لمدير سياسة تحديث البطالة في وزارة العمل، عن مخاوف مماثلة. وقالت: “إذا قدم لك الروبوت للتو توصية وكان عليك فقط تحديد المربع وكان هناك ضغط لتصفية الأعمال المتراكمة، فهذا أمر مثير للقلق بعض الشيء”.
ردًا على تلك المخاوف بشأن تحيز الأتمتة، قال آشلي سيمز، المتحدث باسم جوجل: “نحن نعمل مع عملائنا لتحديد ومعالجة أي تحيز محتمل، ومساعدتهم على الامتثال للمتطلبات الفيدرالية ومتطلبات الولاية”.
الخصوصية والدقة
وقال سيويل إن شركة DETR بدأت مناقشات مع جوجل حول استخدام الذكاء الاصطناعي لمعالجة مطالبات البطالة خلال مكالمة مبيعات قبل عام. وعلى مدى الأشهر اللاحقة، أجرت الوكالة عشرات الاختبارات باستخدام تكنولوجيا الشركة لتحليل نصوص الاستماع من قضايا الاستئناف ذات التعقيد المتفاوت. وقال سيويل إنه بعد التأكد من أن جوجل قد أنشأت “منتجًا قويًا وأنها تفعل الشيء الصحيح”، وافقت شركة DETR على عقد بقيمة مليون دولار تمت الموافقة عليه من قبل مجلس الممتحنين بالولاية الشهر الماضي.
يمكن أن تحتوي جلسات الاستئناف والمستندات المرتبطة بها على معلومات ضريبية وأرقام الضمان الاجتماعي ومعرفات خاصة أخرى بالإضافة إلى معلومات حساسة للغاية حول صحة المدعي وعائلته وأمواله. وقالت فالنتينا بونابرت، المتحدثة باسم DETR، إنه بموجب العقد، لن تتمكن Google من الوصول إلى معلومات التعريف الشخصية من جلسات الاستئناف، وسيتم منعها من استخدام البيانات السرية التي يعالجها نموذجها لأغراض أخرى.
وقال بونابرت إن نيفادا لن تقوم بتدريب نموذج جديد للذكاء الاصطناعي لنظام الاستئناف. وبدلاً من ذلك، ستستخدم الولاية استوديو Google Vertex AI، وهي خدمة سحابية تسمح للمطورين بضبط نماذج الذكاء الاصطناعي الأساسية لأغراض محددة، لإنشاء نموذج جيل الاسترجاع المعزز (RAG). تسترد نماذج RAG المعلومات من قاعدة بيانات محددة – في هذه الحالة، قاعدة تحتوي على قانون البطالة في نيفادا وقضايا الاستئناف السابقة – من أجل توفير نتائج أكثر تفصيلاً ودقة من النتائج التي قد يولدها نموذج الأساس عادةً.
قال كارل ستانفيلد، مدير تكنولوجيا المعلومات في DETR، إن لجنة الإدارة ستجتمع أسبوعيًا بينما يتم ضبط النموذج ثم ربع سنويًا بمجرد تشغيله لمراقبة النظام بحثًا عن الهلوسة والتحيز. لا تفهم نماذج اللغة الكبيرة التوليدية النص أو السبب المنطقي بالطريقة التي يفهمها الإنسان، فهي تتنبأ بالكلمة أو العبارة التي يجب أن تأتي بعد ذلك في سلسلة من النص بناءً على مطالبات المستخدم والأنماط الموجودة في مواد التدريب الخاصة بهم. الهلوسة هي مصطلح صناعي يشير إلى أن تنبؤات النص التالي تؤدي إلى استجابات غير صحيحة أو مضللة في الواقع.
في دراسة حديثة، اختبر باحثون من جامعتي ييل وستانفورد العديد من نماذج RAG المتاحة تجاريًا والتي تعتمد على قواعد بيانات القوانين واللوائح وآراء المحاكم للمساعدة في إجراء البحوث القانونية. ووجدوا أن النماذج قدمت إجابات غير صحيحة أو مضللة للأسئلة بين 17 و33 بالمائة من الوقت وأعادت إجابات غير مكتملة بين 18 و63 بالمائة من الوقت.
يعد نموذج Gemini 1.5 Pro من Google هو الأفضل حاليًا من حيث الأداء في HELM LegalBench، وهو نظام قياس أداء مختلف يقيم قدرة نماذج اللغات الكبيرة على الإجابة على أسئلة حول جوانب مختلفة من القانون. أجاب Gemini على الأسئلة القانونية بشكل صحيح بنسبة 76 بالمائة من الوقت في اختبارات القياس، بينما أجاب Gemini 1.5 Flash، وهو إصدار أخف وزنًا، على الأسئلة بشكل صحيح بنسبة 66 بالمائة من الوقت. وقال سيمز إنه من السابق لأوانه تحديد نموذج جوجل الذي ستستخدمه ولاية نيفادا.
أي نقص في الدقة يتعلق بالمحامين العاملين في الخدمات القانونية في نيفادا. إذا ولّد نظام الاستئناف القائم على الذكاء الاصطناعي هلوسة تؤثر على قرار الحكم، فهذا لا يعني أن القرار قد يكون خاطئًا فحسب، بل قد يقوض أيضًا قدرة المدعي على استئناف هذا القرار الخاطئ في قضية أمام محكمة مدنية.
قالت إليزابيث كارمونا، وهي محامية بارزة في الخدمات القانونية في نيفادا: “في القضايا التي تنطوي على أسئلة تتعلق بالحقائق، لا يمكن للمحكمة المحلية أن تحل محل حكمها حكم حكم الاستئناف”، لذلك إذا اتخذ الحكم قرارًا بناءً على حقيقة هلوسة ، وقد لا تتمكن المحكمة من نقضه.
وقال ماثيو دال، طالب الدكتوراه في جامعة ييل والذي شارك في الدراسة، إنه في نظام يصدر فيه نموذج الذكاء الاصطناعي توصيات تتم مراجعتها وتحريرها من قبل الإنسان، قد يكون من الصعب على مسؤولي الدولة أو المحكمة تحديد مكان وسبب حدوث الخطأ. -تأليف دراسة عن الدقة في البحث القانوني بأنظمة الذكاء الاصطناعي. “هذه النماذج معقدة للغاية لدرجة أنه ليس من السهل أخذ لمحة سريعة عن عملية صنع القرار في وقت معين حتى تتمكن من التحقق منها لاحقًا.”
الحاجة لمزيد من السرعة
مثل معظم الولايات، كان نظام البطالة في نيفادا غارقًا في عدد غير مسبوق من المطالبات خلال الوباء. بعد أوامر إغلاق الدولة، أرسلت الشركات العمال إلى منازلهم وأغلقت أبوابها لعدة أشهر أو للأبد. أنشأ الكونجرس برنامج مساعدة البطالة الوبائية (PUA)، وهو برنامج مساعدة جديد تمامًا أدى إلى زيادة عدد وأنواع العمال المؤهلين للحصول على إعانات البطالة.
وبينما كانت وكالات الدولة تكافح من أجل التكيف مع تدفق المطالبات وقواعد قانون العمل العام الجديدة، تراكمت القضايا وارتكب الناس أخطاء. قام المطالبون بملء النماذج بشكل غير صحيح أو تقدموا بطلبات إلى برامج البطالة الخاطئة، ودفعت الولايات الإعانات بمبالغ خاطئة وللعمال الذين لم يكونوا مؤهلين بالفعل. وكلما استغرق حل هذه الأخطاء في جلسات الاستئناف وقتا أطول، كلما أصبح من الأرجح أن العمال العاطلين عن العمل غير قادرين على تحمل تكاليف الضروريات الأساسية أو سداد أقساط منازلهم وسياراتهم وبطاقات الائتمان الخاصة بهم.
في أبريل 2020، قدرت ولاية نيفادا أن 30% من قوتها العاملة عاطلون عن العمل، وهو أعلى معدل سجلته أي ولاية على الإطلاق. وقال إنه بحلول عام 2023، عندما تولى سيويل إدارة وكالة البطالة في نيفادا، كان هناك تراكم لأكثر من 40 ألف قضية استئناف، وتم تخفيضها منذ ذلك الحين إلى أقل من 5000 قضية.
وقالت إيمي بيريز، التي أشرفت على جهود تحديث البطالة في كولورادو وفي وزارة العمل الأمريكية، إنه إذا تم تنفيذها بشكل صحيح، فيمكن لأتمتة الذكاء الاصطناعي معالجة بعض المشاكل التي تسببت في تأخيرات غيرت حياة العاطلين عن العمل في نيفادا خلال الوباء.
وقالت إن النظام الجديد للولاية يعد خطوة ملحوظة إلى الأمام، وقد يكون مفيدًا إذا حصل المطالبون على رواتبهم بشكل أسرع، وإذا كان DETR يقظًا بشأن مراقبة النظام بحثًا عن الهلوسة، وإذا كان لدى الحكام البشريين الوقت والدعم اللازمين لضمان قدرتهم على ذلك. مراجعة الحالات بدقة.
وقال بيريز: “هناك مستوى من المخاطرة يجب أن نكون على استعداد لقبوله مع البشر ومع الذكاء الاصطناعي”. “يجب علينا أن نضع هذه الأدوات في مرحلة الإنتاج فقط إذا أثبتنا أنها جيدة مثل الإنسان أو أفضل منه.”
