هل يعتقد البشر أن الكمبيوتر يتخذ قرارات عادلة؟
موقع للعلم
2022-10-06 08:41
بقلم: محمد السيد علي
يستعين البشر حاليًّا بأنظمة تعلم الآلة وهي أحد فروع الذكاء الاصطناعي، لسرعة تحليل البيانات وإنجاز قرارات مصيرية بالنسبة للبشر، مثل إمكانية منح أحد الأشخاص قرضًا بنكيًا، أو اختيار شخص ما لوظيفة، أو حتى الدخول إلى السجن.
لكن عندما يتعلق الأمر بهذه القرارات التي قد تغير حياة الناس، فهل يمكن لأجهزة الكمبيوتر أن تأتي بنتيجة عادلة؟ إجابة هذا السؤال كانت محور دراسة نشرتها دورية "باتيرنز" (Patterns) اليوم "الخميس"، 29 سبتمبر، استهدفت استطلاع مدى تقبُّل الناس لعملية صُنع القرار المؤتمت بالكامل" (ADM).
وتتم عملية "صُنع القرار المؤتمت" بواسطة معالجة الكمبيوتر الآلية للبيانات، عبر خواريزميات برمجية معدة مسبقًا لهذا الغرض، دون تدخل بشري، بما يساعد على تجنب تحيز البشر عند اتخاذ القرارات. وبواسطة هذه العملية، يمكن للبنك على سبيل المثال أن يعالج بيانات التصنيف الائتماني الخاص بمقدمي طلبات الحصول على قرض، لتحديد مدى ملاءتهم المالية بشكل آلي، بعيدا عن معايير الحكم الشخصي.
وأظهر الباحثون أنه "مع الإشراف البشري، يعتقد الناس أن قرارات الكمبيوتر يمكن أن تكون عادلة، مثل القرارات التي يتخذها البشر وحدهم دون مساعدة الكمبيوتر".
يشير كريستوف كيرن -عالم الاجتماع الحاسوبي، وقائد فريق البحث بجامعة مانهايم الألمانية- إلى أن الدراسات السابقة تركزت على مدى الإنصاف في عملية صُنع القرار المؤتمت، وما السبيل إلى جعل أنظمة تعلم الآلة عادلة، لكن دراستنا تركزت على مدى تقبل الناس لنتيجة هذه القرارات.
يقول "كيرن" في تصريحات لـ"للعلم: بشكل عام، وجدنا أن الناس يشككون في أتمتة عملية صنع القرار بالكامل، ويفضلون درجة معينة من المشاركة البشرية، لاسيما في القرارات المصيرية مثل مجالات التوظيف والقضاء.
ووفق الدراسة، فإن "عملية صُنع القرار المؤتمت التي تتم بواسطة الكمبيوتر فقط، تتفوق في تحليل مجموعات البيانات الكبيرة لاكتشاف الأنماط. وغالبًا ما تُعتبر أجهزة الكمبيوتر موضوعية ومحايدة مقارنة بالبشر؛ إذ يمكن أن تؤدي تحيزاتهم إلى حجب الأحكام".
ومع ذلك، يمكن أن يتسلل التحيز إلى أنظمة الكمبيوتر لأنها تتعلم من البيانات التي تعكس الأنماط التمييزية في عالمنا. ويعد فهم العدالة في قرارات الكمبيوتر والقرارات البشرية أمرًا بالغ الأهمية لبناء مجتمع أكثر إنصافًا.
لفهم ما يعتبره الناس عادلاً في عملية صُنع القرار المؤتمت، أجرى الباحثون مسحًا لـ3930 فردًا في ألمانيا.
وقدم الباحثون لهم سيناريوهات افتراضية لعملية صُنع القرار، تتعلق بأنظمة البنك والعمل والسجن والبطالة. ومن خلال هذه السيناريوهات، قاموا بمقارنة المواقف المختلفة، بما في ذلك ما إذا كان القرار يؤدي إلى نتيجة إيجابية أو سلبية، ومن أين تأتي بيانات التقييم، ومن الذي يتخذ القرار النهائي سواء كان الإنسان أم الكمبيوتر أم كليهما معًا.
وعن النتائج، يقول "كيرن": كما هو متوقع، رأينا أن اتخاذ القرارات المؤتمتة بالكامل لم يكن مُفضلاً لدى المشاركين، لكن المثير للاهتمام هو أنه عندما يكون لديك إشراف بشري على القرار الآلي، يصبح مستوى الإنصاف المتصور مشابهًا لعملية صنع القرار التي تتخذ بواسطة الإنسان فقط؛ إذ أظهرت النتائج أن الناس يرون أن القرار يكون أكثر عدلاً عندما يشارك فيه البشر.
وكان لدى الناس أيضًا مخاوف أكثر بشأن الإنصاف عند اتخاذ القرارات المتعلقة بنظام العدالة الجنائية أو آفاق العمل، حيث تكون المخاطر أكبر، ومن المحتمل أن يكون وزن الخسائر أكبر من وزن المكاسب.
يضيف "كيرن": تظهر الدراسة أن عملية اتخاذ قرارات مؤتمتة بالكامل قد تواجه شكوكًا في العلن، لكن، لكي تعمل هذه القرارات بشكل مستدام في المجتمع، فإنها تحتاج إلى القبول. لذلك يجب أن يشارك البشر في عملية اتخاذ القرارات المصيرية الأكثر أهمية المبنية على القرار المؤتمت، مقابل تقليل مشاركة الإنسان في بعض القرارات المتعلقة بالسياقات منخفضة المخاطر.
وعن خطواتهم المستقبلية، أشار "كيرن" إلى أنهم يخططون إلى إجراء مزيد من الدراسة لفهم كيفية تعريف الأشخاص المختلفين للعدالة في اتخاذ القرارات، ويريدون أيضًا استخدام استطلاعات مماثلة لطرح المزيد من الأسئلة حول أفكار مثل عدالة التوزيع، وعدالة تخصيص الموارد بين المجتمع.
وتابع: نأمل أن تساهم دراستنا في معرفة المزيد عن أهمية هذه الميزة بالذات من خلال النظر في أنظمة صنع القرار المؤتمت في سياقات اجتماعية مختلفة، كما نأمل أن يأخذ المطورون لهذه البرامج نتائجنا كمقدمة للبناء عليها، وإجراء مزيد من الأبحاث قبل نشر وتطوير عملية صنع القرار المؤتمت، كما نحتاج أيضًا إلى التأكد من أن الأشخاص يفهمون كيفية معالجة الكمبيوتر للبيانات وكيف يتم اتخاذ القرارات بناءً عليها.