يحذر فريق بحث دولي من معهد ماكس بلانك لأبحاث التعليم وكلية تولوز للاقتصاد من مخاطر استخدام الذكاء الاصطناعي في الموافقة على المزايا الاجتماعية. تُظهر الدراسة المنشورة في Nature Communications أن المتضررين، مثل العاطلين عن العمل أو المحتاجين، لا يثقون في القرارات الآلية لأنها قد تعزز التحيزات وتؤدي الأخطاء إلى عواقب وخيمة. لخلق القبول، يجب مراعاة وجهات نظر الفئات الضعيفة في تطوير مثل هذه الأنظمة.
يوضح مثال برنامج الذكاء الاصطناعي Smart Check في أمستردام المشاكل: كان النظام يفحص طلبات المساعدة الاجتماعية بحثًا عن الاحتيال عن طريق تحليل البيانات المتعلقة بالعناوين والدخل والأسرة لحساب قيم المخاطر. كانت القيم العالية تحول الطلبات إلى موظفين، لكنها أثرت بشكل غير متناسب على المهاجرين أو النساء أو الآباء. أدى النقد من الجمعيات والمحامين إلى تعليق البرنامج؛ وأكد تقييم أوجه القصور مثل عدم إمكانية التتبع وعدم وجود فرص للاعتراض.
في ثلاث استطلاعات شملت أكثر من 3200 مشارك من الولايات المتحدة والمملكة المتحدة، درس الباحثون المواقف تجاه الذكاء الاصطناعي في المزايا الاجتماعية. اختار المشاركون بين القرارات البشرية البطيئة وخيارات الذكاء الاصطناعي الأسرع مع نسبة خطأ أعلى في الرفض. بينما يقبل الكثير من المواطنين عدم الدقة الصغيرة مقابل السرعة، يرفض المستفيدون الذكاء الاصطناعي بشكل أكبر - حتى مع وجود خطر 5 إلى 30 بالمائة لاتخاذ قرارات خاطئة.
يُبالغ غير المستفيدين بشكل منهجي في تقدير ثقة المتضررين في الذكاء الاصطناعي، حتى مع وجود حوافز مالية لتقييمات واقعية. تفهم الفئات الضعيفة الرأي السائد بشكل أفضل من العكس. تم أخذ العوامل الديموغرافية مثل العمر والجنس والدخل في الاعتبار؛ كانت العينة الأمريكية تمثيلية، والعينة البريطانية متوازنة بين مستفيدي Universal Credit وغيرهم.
يزيد حق افتراضي في الاعتراض من الثقة بشكل طفيف فقط ولا يغير الرفض من قبل المستفيدين. يعتمد القبول على الثقة في المؤسسات: كلما زادت مقاومة الذكاء الاصطناعي، انخفضت الثقة في الحكومة. في المملكة المتحدة، يفضل الكثيرون المعالجة البشرية، حتى مع نفس الكفاءة.
تدعو الدراسة إلى تطوير ذكاء اصطناعي تشاركي يشرك المتضررين بدلاً من إعطاء الأولوية للكفاءة وحدها. وإلا، هناك خطر اتخاذ قرارات خاطئة وانخفاض الثقة في الإدارة والتكنولوجيا. يتعاون حاليًا مع Statistics Denmark لتسجيل الفئات الدنماركية الضعيفة.
نظرة عامة:
- استطلاعات: أكثر من 3200 مشارك حول الذكاء الاصطناعي في المزايا الاجتماعية في الولايات المتحدة والمملكة المتحدة.
- الاختلافات: المستفيدون أكثر تشككًا من غير المستفيدين؛ الأخيرون يبالغون في تقدير الثقة على الرغم من الحوافز.
- الإجراءات: حق الاعتراض فعال بشكل محدود.
- التوصية: عمليات تشاركية لأنظمة الذكاء الاصطناعي لتجنب فقدان الثقة.
الورقة الأصلية:
تفضيلات غير متجانسة ورؤى غير متماثلة لاستخدام الذكاء الاصطناعي بين المطالبين بالرفاهية وغير المطالبين بها | Nature Communications
تم إغلاق التعليقات.