سياسة خوارزميات التعلم الآلي
بروجيكت سنديكيت
2018-05-09 06:46
MARK MACCARTHY
واشنطن - حوالي 1200 قبل الميلاد، جاءت سلالة شانغ الحاكمة في الصين بنظام صناعي لبناء الآلاف من السفن البرونزية الضخمة لاستخدامها في الحياة اليومية والاحتفالات الطقسية. في هذا المثال المبكر للإنتاج الضخم، تتطلب عملية صب البرونز تخطيطًا معقدًا وتنسيق لمجموعات كبيرة من العمال، كل منها يؤدي مهمة منفصلة في ترتيب محدد بدقة.
وقد بدأت عملية معقدة مماثلة في تشكيل جيش الطين الشهير الذي كشف عنه تشين شي هوانغ، أول إمبراطور صيني، بعد ألف سنة. ووفقًا لمتحف الفن الآسيوي في سان فرانسيسكو، فاٍن هذه التماثيل تم إنشاؤها باستخدام نظام إنتاج تجميع، فتح الطريق أمام التقدم في الإنتاج الضخم والتجارة".
يعتقد بعض العلماء بأن هذه الأشكال المبكرة من تكنولوجيات العمل التوجيهي، لعبت دوراً كبيراً في تشكيل المجتمع الصيني. من بين أشياء أخرى، يبدو أنهم يقنعون الناس بقبول الهياكل البيروقراطية، والفلسفة الاجتماعية التي تؤكد التسلسل الهرمي، والاعتقاد بأن هناك طريقة صحيحة واحدة فقط للقيام بالأشياء.
عندما تم إدخال المصانع الصناعية في أوروبا في القرن التاسع عشر، اعترف منتقدو الرأسمالية، مثل فريدريك إنجلز، بأن الإنتاج الضخم يتطلب سلطة مركزية، بغض النظر عما إذا كان النظام الاقتصادي رأسمالياً أم اشتراكياً. وفي القرن العشرين، بدأ بعض المنظرين مثل لانجدون وينر، بتطوير هذا النمط من التفكير وتطبيقه على تقنيات أخرى. على سبيل المثال، كان وينر يعتقد أن القنبلة الذرية، يجب اعتبارها "قطعة أثرية سياسية"، لأن "طبيعتها المميتة تتطلب السيطرة عليها من قِبل القيادة المركزية الهرمية الصارمة".
اليوم، يمكننا تطوير هذا الفكر أكثر. يجب أن نأخذ خوارزميات التعلم الآلي بعين الاعتبار، وهي أهم تكنولوجيا الأغراض العامة المستخدمة اليوم. من خلال استخدام أمثلة من العالم الحقيقي لتقليد القدرات المعرفية البشرية، أصبحت هذه الخوارزميات موجودة بالفعل في كل مكان وفي مكان العمل. ولكن، للاستفادة بشكل كامل من هذه التقنيات، يجب على المنظمات إعادة تعريف المهام البشرية كمهام للتنبؤ، والتي تتوافق إلى حد كبير مع الجانب القوي لهذه الخوارزميات.
وتتمثل إحدى السمات الرئيسية لخوارزميات التعلم الآلي في تحسن أدائها مع المزيد من البيانات. ونتيجة لذلك، فإن استخدام هذه الخوارزميات يخلق الحاجة التكنولوجية لتفسير المعلومات المتعلقة بالأشخاص باعتبارها بيانات قابلة للتسجيل ويمكن الوصول إليها. وكما هو الحال في نظام الإنتاج الضخم، فالخوارزميات "سياسية بطبيعتها"، لأن وظائفها الأساسية تتطلب بعض الممارسات الاٍجتماعية وترفض الأخرى. على وجه الخصوص، تعمل خوارزميات التعلم الآلي بشكل مباشر على رغبة الأفراد في الحفاظ على سرية حياتهم الشخصية.
قد يبدو النظام القائم على التوافر العام للمعلومات حول أفراد المجتمع الفردي مقبولا لدى أنصار الملكية الشيوعية، مثل عالم الاجتماع أميتاي اٍتزيوني، الذي يعتقد أن القيود المفروضة على خصوصية الأفراد هي وسيلة لفرض المعايير الاجتماعية. لكن خلافا لأنصار الملكية الشيوعية، فإن الخوارزميات غير مبالية بالأعراف الاجتماعية. همهم الوحيد هو تحسين نوعية التوقعات، من خلال تحويل المزيد من مجالات الحياة البشرية إلى مجموعات البيانات التي يمكن استخراجها.
بالإضافة إلى ذلك، فاٍن قوة الضرورة التكنولوجية لا تحول الغربيين الفرديين إلى شيوعيين عرضيين فحسب، بل تعزز أيضا ارتباطهم بثقافة الجدارة القائمة على التقييمات الخوارزمية. سواء كان ذلك في العمل، أو في المدرسة، أو حتى على تطبيقات المواعدة، فقد أصبحنا معتادين بالفعل على تقييم أهليتنا من خلال أدوات غير شخصية، والتي تحدد لنا بعد ذلك مكانا في التسلسل الهرمي.
من المؤكد أن التقييم الخوارزمي ليس جديدًا. قبل جيل، حذر علماء مثل أوسكار جاندي من أننا نتحول إلى مجتمع مصنّف ومسجل، وطالب بمزيد من المساءلة، فضلاً عن إمكانية تصحيح الأخطاء التي أحدثتها التكنولوجيا. ولكن بخلاف الخوارزميات الحديثة للتعلم الآلي، كانت أدوات التقييم القديمة مفهومة بشكل جيد، حيث اتخذت القرارات على أساس العوامل المعيارية والتجريبية المناسبة. على سبيل المثال، لم يكن سرا أن تراكم ديون بطاقات الائتمان الكبيرة يمكن أن يدمر الجدارة الائتمانية للشخص.
وعلى النقيض من ذلك، تدخل التكنولوجيات الجديدة للتعلم الآلي في أعماق مجموعات البيانات الضخمة من أجل إيجاد علاقات متبادلة تسمح بإجراء التنبؤات، والتي يتم فهمها بشكل سيء. في مكان العمل، يمكن للخوارزميات تتبع محادثات الموظفين، والمكان الذي يتناولون فيه الغداء، ومقدار الوقت الذي يقضونه في العمل على الكمبيوتر وفي المحادثات الهاتفية والاجتماعات. وبناء على هذه البيانات، تقوم الخوارزميات بتطوير نماذج متطورة للإنتاجية تتجاوز بكثير مفاهيمنا المنطقية. في الجدارة الخوارزمية، تصبح أي متطلبات لهذه النماذج معيارًا جديدًا للتميز.
ومع ذلك، فإن التكنولوجيا ليست حتمية. نحن نشكلها قبل أن تشكلنا. يمكن لقادة الأعمال وصانعي السياسات تطوير ونشر التقنيات التي يريدونها، وفقًا لاحتياجاتهم المؤسسية. في وسعنا الحفاظ على سرية الجوانب الحساسة للحياة البشرية، وحماية الناس من الاستخدامات الضارة للبيانات، والمطالبة بتوازن الخوارزميات بين دقة التوقعات والقيم الأخرى مثل النزاهة والمساءلة والشفافية.
ولكن إذا اتبعنا التدفق الطبيعي لمنطق الخوارزميات، سيكون وجود ثقافة أكثر جدارة وشيوعية أمرا لا مفر منه. وسيكون لهذا التحول البطيء آثار بعيدة المدى على مؤسساتنا الديمقراطية وهياكلنا السياسية. وكما لاحظ الباحثان الصينيان دانييل أ. بيل وجانج ويوي، فإن البديل السياسي الرئيسي للتقاليد الديمقراطية الليبرالية الغربية هو المؤسسات الاجتماعية التي لا تزال تتطور في الصين.
في الصين، لا يتم إضفاء الشرعية على القرارات الجماعية من خلال موافقة صريحة من المواطنين، ويكون للناس عمومًا حقوق أقل قابلية للإنفاذ ضد الحكومة، خاصة عندما يتعلق الأمر بالمراقبة. ويقتصر دور المواطن الصيني العادي في الحياة السياسية إلى حد كبير على المشاركة في الانتخابات المحلية. وفي الوقت نفسه، يتم اختيار قادة البلد في إطار عملية الجدارة، ويعتبرون أنفسهم الأوصياء على رفاهية الشعب.
من غير المرجح أن تتحول الديمقراطيات الليبرالية بالكامل إلى مثل هذا النظام السياسي. ولكن إذا استمرت الاتجاهات الحالية في ثقافة الأعمال والمستهلكين، فعندئذ سوف يكون لدينا قريباً الكثير من القواسم المشتركة مع تقاليد الجدارة والتقاليد الشيوعية مقارنة مع تاريخنا الفردي والديمقراطية الليبرالية. إذا أردنا تغيير هذا المسار، يجب أن نضع ضروراتنا السياسية الخاصة فوق متطلبات تكنولوجياتنا.