مركز آدم ناقش آثار تطبيقات الذكاء الاصطناعي على الحقوق والحريات
مركز آدم للدفاع عن الحقوق والحريات
2024-07-22 06:21
تحرير: حسين علي حسين
عقد مركز آدم للدفاع عن الحقوق والحريات جلسته الحوارية الشهرية في ملتقى النبأ الأسبوعي، تحت عنوان (أثر تطبيق الذكاء الاصطناعي على الحقوق والحريات) قدمها الباحث في المركز الدكتور علاء الحسيني، وحضر عدد من الأساتذة ومدراء المراكز البحثية والأكاديميين المختصين، حيث بدأ الباحث بالقول:
"لا شك ولا ريب أن العالم يعيش منذ سبعينات القرن الماضي حالة من التزايد للاعتماد على تطبيقات الذكاء الاصطناعي، هي ليست مسألة جديدة وإنما في حالة من التطور المستمر، بدأت بتطبيقات بسيطة، واليوم وصلت إلى تطبيقات غاية في التعقيد وغاية بالأهمية في نفس الوقت، هذه التطبيقات دخلت كل ميادين الحياة.
دخلت في الشأن الاقتصادي والاجتماعي، وحتى في الشأن الثقافي، وباتت هذه التطبيقات تتحكم حتى في حياتنا دون أن نشعر أو بشعورنا بها، ولعله بعض هذه التطبيقات تمتلك معلومات عنّا أكثر مما نعلم نحن عن أنفسنا، وأكثر مما يعلم أزواجنا عنا أو أبنائنا، بحكم أن هذه التطبيقات تحاول أن تحاكي الدماغ أو العقل أو الذكاء البشري.
وبالفعل تمكن العلماء من أن يحاكوا هذه التطبيقات، الذكاء البشري، خاصة وقد أصبحت هذه الآلات التي تستعمل التطبيقات قادرة على أن تفكر بشكل شبيه بتفكير الإنسان، وأن تتحسس ومن الممكن أن تستجيب، وممكن أن تتخذ بعض القرارات، ولعله أقرب مثال عن ذلك ما نراه اليوم في مختلف المنصات. إذًا نحن إزاء تطبيقات في حالة من التزايد، قادرة على التأثير السلبي والإيجابي في نفس الوقت، تبت في حياة الإنسان.
وفي العراق نستشعر خطورتها التطبيقات على الحقوق والحريات، وكذلك بأهميتها في نفس الوقت، كونها تمثل فرصة حقيقية لترسيخ الكثير من المفاهيم التي تتصل بالحقوق والحريات.
بدء نقف عند تعريف ولو مبسط عن هذه التطبيقات التي تعتبر وبحق عبارة عن برامج حاسوبية يصممها الإنسان، وهي تستطيع أن تحاكي الذكاء البشري وتستجيب للأوامر وتكون قادرة على تلقي البيانات وتحليلها وإخراجها على شكل نتائج ملموسة، تستخدم هذه التطبيقات في كل ميادين الحياة بلا استثناء.
كمثال بسيط أن هذه التطبيقات تستخدم في المجال الطبي، في المختبرات وفي صالات العمليات، وممكن أنها بدأت في بعض المستشفيات المهمة في أوربا، يعتمدون على هذه التطبيقات في إجراء بعض العمليات المعقدة جدا، واعتماد كلي بأنه لا غنى بشكل كلي عن ذكاء الإنسان وعن تدخل الإنسان، لكن يمكن أن يكون لها دور أما أساسي، أو ثانوي أو ساند وهذا ما سنبحث فيها عن قريب.
لذلك نحن أمام برامج لها استخداماتها، وهي قادرة على أن تؤثر في حياتنا، لها فوائد ولها مضار، لها إيجابيات وسلبيات، على الصعيد السياسي مثلا، ضمان الحقوق والحريات السياسية، من الممكن أن تنفعنا تطبيقات الذكاء الاصطناعي كثيرا، في عميلة إدارة الانتخابات مثلا، بدءا من أبسط القرارات التي تتخذ في مجال الانتخابات. وتحديث سجل الناخبين وكذلك في إجراء العملية الانتخابية وإحصاء الأصوات، وتحليل البيانات والأصوات، وبيان درجات الميل أو من خلالها ممكن تحليل رغبات المواطنين والوقوف عند ما يمكن أن تستخدمه الأحزاب والمرشحون في الانتخابات القادمة، أي معرفة نقاط القوة ونقاط الضعف، ليتم التركيز عليها في الانتخابات الأخرى، وبالتالي قد يكون ذلك سبيل لتغيير مسار الانتخابات ونتائجها، حيث تمكن هذه التطبيقات من معرفة ميول الناخبين وتقديم نصائح للتأثير في هذه الميول وهذه الرغبات.
في المجال الاقتصادي هذه التطبيقات أيضا تلعب دورا في سوق الأوراق المالية والاستثمارات ودارة الشركات وتحليل البيانات المالية والاقتصادية، وفي بيان الفرص والتحديات، وكذلك توفر تحليل ما يسمى عند المختصين بتحليل سوات الذي يتضمن ذكر الإيجابيات والسلبيات، ومواطن الضعف ومواطن القوة وإلى آخره.
كل هذه الأمور من الممكن أن تتوفر بضغطة زر بسيطة من دون أن يغث الإنسان نفسه ودماغه في التفكير والتحليل وفي تقصي البيانات، فهي ضغطة زر بسيطة من الممكن أن توفر لك كل هذه المعلومات وكل هذه البيانات بشكل تفصيلي ودقيق واستثنائي بالدقة.
كذلك في الشأن الاجتماعي والثقافي، حيث تلعب هذه التطبيقات دورا غير محدود، ففي الشأن الثقافي ممكن أن تطلب بعض الأمور التي وفرتها بعض الشركات وبشكل مجاني، تطلب منه أن يصنع لك قصة، أو مثلا رواية، أو يصنع لك قصيدة، ومن الممكن أن تبحث في كل العالم ولا تجد لها مثيلا، لماذا لأنها عبارة عن صنع جديد.
ففوائدها لا متناهية لا يمكن غض البصر عنها لأنها فوائد عملية وعلمية، وثقافية واجتماعية واقتصادية، ومن الممكن الاستثمار فيها وبناء على النتائج التي ممكن أن تتحصّل منها، لكن في نفس الوقت هناك سلبيات لا يمكن غض الطرف عنها، هذه السلبيات كثيرة جدا، وخصوصا مسألة استثمار هذه التطبيقات في ميادين تضر بالبشرية، ولنا في ذلك مثال بسيط أنه اليوم إسرائيل تستخدم تطبيقات الذكاء الاصطناعي في اغتيال القادة الذين في فلسطين وغيرها.
وكذلك الطائرات المسيرة أبسط مثال على الذكاء الاصطناعي الخبيث الذي من الممكن أن يؤدي أدورا شريرة تعتدي على الحقوق والحريات، وتدمر الحياة وأشكال الحياة وتعتدي على الحرمات، وتخالف السنن القانونية والسنن الإلهية في الاعتداء على حرمة الإنسان وحرمة حياته وسكنه وما شاكل ذلك.
لذا فإن هذه التطبيقات تشكل فرصة ذهبية للأنظمة الاستبدادية، لكي تبقى في سدة الحكم، حيث من الممكن استثمار هذه التطبيقات لمعرفة كل أشكال المقاومة أو المناوئة أو المعارضة التي يبديها أفراد الشعب، ويمكن أن توأد في مهدها قبل أن تولد وتصبح حركة من حركات التمرد، أو حركة من حركات المعارضة الحقيقية.
لذلك تشكل هذه التطبيقات اليوم خطرا كبيرا جدا على حرية الرأي، حرية العقيدة، وغيرها من الحريات، بمجرد أن ندخل إلى تطبيقات بسيطة جدا توفرها بعض الشركات، كما في الفيس بوك ومنصة أكس وغيرها، نلاحظ أنك مجرد أن تنظر في إعلان معين نجد أنه يأخذك إلى نوافذ مقاربة لذلك وهذه الخوارزميات التي صممت في هذه البرامج هي بالحقيقة أشبه ما تكون ببرامج تجسسية، لأنها تستطيع أن تعرف ميولك، وتعرف آرائك السياسية والاجتماعية والاقتصادية والثقافية، والذوق الذي يعود لك.
ومن الممكن أن يحاكي هذا الذوق ويحاول أن يوفر لك فرصة معينة، وبالفعل قد يحقق لك فائدة تجارية من خلال تسويقه للمنتجات التي قد تبحث عنها أنت، لكن في نفس الوقت هو يكشف عن جزء من شخصيتك ويكشف جزء أو حق من حقوقك، والذي هو حق الخصوصية، وممكن هذا الحق أن يُنتهَك من خلال هذه التطبيقات، التي توفرها هذه الشركات.
ولذلك تشكل هذه التطبيقات حقيقة فرصة تكشف حق من حقوقك، والذي هو حق الخصوصية، ومن الممكن أن هذا الحق ينتهك من خلال هذه التطبيقات التي توفرها هذه الشركات، ولذلك تشكل هذه التطبيقات حقيقة فرصة للتجسس على مواطنين، وبوابات النفوذ الإلكترونية التي تقودها بعض الأنظمة الاستخباراتية التي تقودها بعض الدول في العالم خير دليل على ذلك.
حيث تستطيع من خلالها أن تنفذ إلى حسابات المواطنين ومن الممكن أن تتجسس عليهم، ومن الممكن تشغل بعض الأجزاء من الهواتف الذكية أو أجزاء من دون أن يعلم صاحب العلاقة، وممكن أن تطلع على بعض المعلومات الذاتية التي يتفانى الإنسان في الحرص على كتمانها والحفاظ على سريتها، لكن من الممكن أن تكون مكشوفة من خلال هذه التطبيقات.
إذن نحن أمام سيف ذو حدّين، حدّ إيجابي ممكن أن يُستثمَر في تحسين الحياة، وحدّ سلبي من الممكن أن يستثمر في الإساءة لقدسية الحياة البشرية، ولا يمكن في نفس الوقت التغاضي عن استثمار الإيجابيات، لذلك نذهب إلى العراق وكيف ممكن أن نستقرئ هذا الأمر، في الحقيقة هناك فراغ قانوني كبير جدا في مسألة التعامل مع تطبيقات الذكاء الاصطناعي، هذا الفراغ ليس على مستوى العراق فحسب بل على مستوى العالم أجمع.
بدأت أوربا منذ العام 2017 تتبنى هذا الموضوع على شكل مجموعة من الوثائق الأوربية، التي تتعلق مثلا بروبوتات، وآلية التعامل معها، أخلاقيات المهن التي من الممكن أن تتصل بالذكاء الاصطناعي، وهنالك الكثير من الأشياء الأوربية التي صدرت بهذا الخصوص وقد يسعفنا الوقت أن نشير للبعض منها.
الأمم المتحدة على سبيل المثال لمك يكن لها موقف من قضية الذكاء الاصطناعي إلا في عام 2024، بالتحديد في يوم 21 من آذار من هذه السنة، حينما تقدمت الولايات المتحدة الأمريكية بمشروع قرار للجمعية العامة للأمم المتحدة، فحصل على الاجتماع بأن الأمم المتحدة يجب أن تتدخل في موضوع الذكاء الاصطناعي.
السفير الفرنسي صرح في حينها قال: قبل أن يفوتنا الأوان كما حدث مع التغير المناخي حينما استيقظنا بعد أن أصبح التغير المناخي حقيقة لا يمكن التغلب عليها، فلا نتركن قضية الذكاء الاصطناعي تتغلب علينا وتستفحل فتكون ظاهرة سلبية قد تنعكس سلبا رغم أنم هذه الدول هي دول متقدمة وهي أكثر استعمالا لهذه التطبيقات، وهي أكثر تملكا للشركات التي تنتج مثل هذه التطبيقات.
لكن يبدو أنها استشعرت خطورة هذه التطبيقات بالفعل لأنها أحدثت ثورة اجتماعية وثقافية في هذه المجتمعات، استثمرت من قبل جماعات، هذه الجماعات هي متطرفة في الغالب، أو جماعات تسعى إلى استحداث تطورات ديموغرافية وثقافية.
ومنها الجماعات المعروفة التي تدعو إلى المثلية الجنسية وما شاكل ذلك من الظواهر السلبية التي باتت تشكل حالة سيئة في المجتمعات وبدأت انعكاساتها أو آثارها السلبية تضرب يمينا وشمالا في المجتمع الأوربي، وارتداداتها قد تصل حتى إلينا كمجتمعات شرق أوسطية وما شاكل ذلك، وهذا ملموس في كثير من الأحيان.
التطبيق الأخطر الذي ظهر إلى حيز الوجود وبالتحديد منذ العام 2011، وهو المخدرات الإلكترونية، وهي واحدة من التطبيقات الأكثر فتكا بالنسبة للذكاء الاجتماعي، هذه التطبيقات اليوم أصبح لها سوق رائج في كل دول العالم حتى دولنا، لا نستغرب منذ لك، وهنالك الكثير من المواقع الإلكترونية في مختلف المنصات، حتى على المنصات غير المعروفة لدينا، موجود هنالك ترويج للمخدرات الإلكترونية التي هي لا تقل خطورة عن المخدرات الاعتيادية.
وهذه المخدرات قد يكون خطرها اشد فتكا من المخدرات الاعتيادية، لماذا؟، لأن الوصول إليها متاح على مدار 24 ساعة، قد يكون المخدرات الاعتيادية غير متاح أن تصل إليها على مدار الوقت، إلا إذا يتم تخزينها في مكان معين، أما الإلكترونية فلا تحتاج تخزين لأنها مخزنة في هاتفك النقال، وفي حاسبتك الشخصية وممكن أن تستغلها أو تستعملها في أي وقت، وبالتالي تعد جدا خطيرة.
أعود إلى المشرع العراقي، هل تنبّأ بمثل هذه الأشياء، وهل التفت لها، الحقيقة كلا، لم يكن هناك أي تنبؤ لمثل هذه الأمور، هنالك إشارات خجولة حول الذكاء الاصطناعي، وقد نجد هذه الإشارات في الدستور العراقي، ولكنها ليست إشارات فنية، فهناك إشارة مثلا تقول لا يجوز للقانون أن يتعارض مع حقوق الإنسان، حسنا.. بالتالي فإن القوانين التي تنظم المسائل الحسيّة واللا حسية ينبغي أن لا تتعارض مع حقوق الإنسان.
هنا نحتاج إلى أن نحدد الأمور لتنظيم مثل هذه التطبيقات، هل هي الحكومة، أم هي الأذرع التي تسمى الجهات غير المرتبطة بوزارة، أو الهيئات المستقلة، مثل هيئة الإعلام والاتصالات، وهي مؤسسة بموجب أمر حكومي، 63 سنة 2004، فأيهم يتحمل المسؤولية مثلا؟، وزارة الاتصالات بالعراق أن هيئة الإعلام والاتصالات؟، أم الحكومة العراقية؟
ذهبنا بعيدا إلى قانون التوقيع الإلكتروني الذي صدر في العراق 2012، فلم نجد إشارة إلى مسألة الذكاء الاصطناعي والتوقيع الإلكتروني الذي يستثمر من خلال الذكاء الاصطناعي، إنما أشار هذا القانون إشارات عابرة، وكان يناقش القضايا التجارية فحسب، ولا ينظر في المسائل الفنية.
ذهبنا بعيدا فوجدنا أن هناك قانون، هو قانون حماية المؤلف 3 سنة 1971 المعدل في عام 2004، والذي أشار إلى برامج الحاسوبية التي تعتبر من المصنفات المحمية، حسنا أنا عندما أنتج مثل هذا البرنامج، وهو يعتبر من برامج الذكاء الاصطناعي، فأنا محمي، لأنه من الممكن أن استثمر هذا البرنامج، لكن من يتحمل مسؤولية طرح هذا البرنامج إذا ثبت أنه ينتهك الحقوق والحريات؟ لم يحدد المشرع شيئا حول هذا البرنامج. ولم يبين من المسؤول عن الانتهاكات التي ستحصل بسبب هذا البرنامج، حسنا.. هذا أولا.
نذهب إلى قانون آخر تطرق إلى هذا الموضوع وإن كان ليس بشكل تفصيلي، قانون البطاقة الوطنية 2016، هذا القانون أشار إلى مسألة الأتمتة، وما ندعوه نحن بإنشاء البيانات، ونقل البيانات واستلام البيانات، التي هي فيها جانب من الذكاء الاصطناعي، مجلس الوزراء تبنى منصة أور الإلكترونية التي من خلالها حاول أن ينتقل إلى الحكومة الإلكترونية، وهي محاولة جيدة جدا، لكن هذه المحاولة يعوزها أن ترتبط بمنصات ذكاء اصطناعي أكثر قابلية على التعامل السريع أو الاستجابة السريعة لاحتياجات المواطن العراقي.
أيضا ربطها بالجهات القطاعية مثل وزارة الصناعة، الذي لا يزال غير متوفر من الأساس، لذلك نرجع إلى أصل المسألة التي نطرحها، وهي أثر هذه التطبيقات على الحقوق والحريات، حقيقة لما نريد أن نحدد من المسؤول عن التطبيق، الذي ينبغي أن نحاسبه على تطبيق من التطبيقات أدى إلى انتهاك حق ما في هذا العالم الافتراضي، في العالم الوجودي عندنا فاعل أحيانا نسميه المتهم أو المجرم أو المدان وبحسب التصنيفات التي يوردها المشرع العراقي في قانون العقوبات سنة 1969.
لكن في العالم الافتراضي يوجد عندنا مجرم افتراضي، أو بالأحرى متهم افتراضي، هذا المتهم الافتراضي يجب أن نحدده، هل هو صانع المحتوى الإلكتروني، أم هو مالك المحتوى الإلكتروني، أم هو مستعمل المحتوى الإلكتروني؟ الذي هو اعتدي من خلاله على الحق أو الحرية، فعندنا ثلاثة، ممكن أن يكون الصانع، وممكن أن يكون المالك، وممكن أن يكون المستخدِم، هؤلاء الثلاثة قد نجمعهم بمادة واحدة في قانون العقوبات المادة 53 التي تتكلم عن أنه سواء كان فاعلا أو شريكا.
فاعلا يعني هو ارتكب الفعل المجرَّم، أو شريكا، وتعني أنه اشترك في الفعل الإجرامي، وفق المادة 47، فهو إما ساعد، أو اتفق، أو حرّض، من الممكن أن مالك للمنصات أو مروج لإحدى التطبيقات ممكن أنه بها التطبيق يحصل اعتداء على حق أو اعتداء على حرية، فأكون أنا إما فاعل، وإما مساهم، وفي كل الأحوال المشرع ينظر إلى المادة 53 كما ذكرت، ينظر للجميع نظرة واحدة، أن المساهم سواء كان فاعلا أو مساهما.
قلنا الفاعل الذي هو يرتكب الفعل المجرم أو جزء منه، والمساهم هو الذي يساهم في الفعل المجرّم سواء بالتحريض، أو بالاتفاق، أو بالمساعدة، أيما مساعدة، قد تكون مساعدة مالية أو فنية، مجرد أن تقدم نصيحة فنية من الممكن أن تؤدي هذه النصيحة الفنية إلى عدوان على الحقوق والحريات لهذا فأنت تعتبر مساعد.
كذلك التحريض، بمجرد أن تحمل هذا البرنامج أو هذا التطبيق لبعض الأشخاص ويقومون باستخدام هذا التطبيق، من الممكن أن تكون مساهما في جرم يرتكب، لذلك أصل المسألة التي نبحثها أنه من يسائل من؟، هل تساءَل الحكومة، لإهمالها المتعمَّد لهذا العالم الافتراضي الخطير جدا، أم يُساءَل الفرد العراقي الذي قد يستخدم واحدا من هذه التطبيقات التي قد تفضي إلى الاعتداء على الحقوق والحريات. هذا هو أصل المسألة وأصل المشكلة.
حسنًا.. حينما نذهب بعيدا عن ذلك ونبحث في هذه المساهمة الإجرامية التي تحصل في هذا العالم الافتراضي، طبعا نحن اليوم خضنا في مسألة الإيجابيات، لأنها لا مراءَ فيها، فهذه الإيجابيات مطلوبة ومرغوبة ويفترض أن الجميع يتكاتف دورهم حتى نذهب باتجاه الإيجابيات لكن نحن نبحث عن السلبيات التي واحدة من تطبيقاتها كما ذكرت مسألة المخدرات الإلكترونية، مسألة الاعتداء من خلال جرائم الابتزاز الإلكتروني، وجرائم السرقة الإلكترونية وغيرها من الجرائم التي تستثمر فيها بعض برامج الذكاء الاصطناعي التي من خلالها نتجسس على بعض البطاقات المصرفية لبعض المواطنين، أو على الحسابات البنكية لبعض المواطنين، أو على النشاط التجاري لبعض المواطنين.
بالتجسس على النشاط الصناعي، على النشاط الزراعي، كل هذه المجالات يمكن لهذه البرامج المصممة لاستدراج الضحية أحيانا، أو لاختراق خصوصيته، أو اختراق بعض حساباته أو الإطلاع على بعض المعلومات رغم حفظها وصيانتها، وأنه لا يسمح لغيره بالإطلاع عليها، لذلك من سنسائل؟
هذه الفكرة الرئيسية التي نبحث عنها، وأقول لكم إننا سوف نستثني الإيجابيات لأنه ليس مضمون كلامنا أن هذه البيانات أو هذه البرامج ليس فيها إيجابيات، كلا نحن متفقون على أنها فيها إيجابيات، ومتفقون على أن المفروض يذهب الجميع في هذا الاتجاه.
بل هناك واجب يقع على الحكومة العراقية في أن تنهي حالة الأمية الإلكترونية كما هنالك واجب عليها أن تنهي الأمية في القراءة والكتابة، فهناك واجب عليها أن تنهي الأمية الإلكترونية عند البعض، لماذا، لأن هذا من شأنه أن يحد من الجرائم التي قد تقع بطريقة إلكترونية.
وبالتالي لابد من أن يكون هناك دور لبعض الوزارات لاسيما وزارة العمل والشؤون الاجتماعية، في أن يكون لها دور إيجابي في مسألة القضاء على الأمية الإلكترونية في المجتمع، وهذا لا ينحصر بهذه الوزارة فقط، وإنما هناك وزارات قطاعية يجب أن يكون لها دور فاعل في هذا الموضوع. لما قلنا من سيتحمل المسؤولية ومن سيحاسَب.
حقيقة الكل في العراق اليوم مطالب بأن يضغط لكي يذهب إلى دور مجلس النواب العراقي والحكومة العراقية باتجاه تقنين استخدام برامج الذكاء الاصطناعي، لماذا؟ لأنه هذه البرامج اليوم تستخدم في مختلف مجالات الحياة، ولها دور وانعكاس على حياتنا، تستخدم في السيارات ذاتية القيادة، تستخدم في الطائرات المسيرة، وفي المستشفيات والبنوك وفي بيوتنا ومنازلنا في بعض الآلات التي نستخدمها، وفي الهاتف الذي نستخدمه لكن أين التقنين؟
أين دور المشرع من ذلك؟، أين دور الحكومة العراقية من ذلك؟، أين دور الحكومات المحلية، وأين الجامعات من ذلك، هل أخذت الجامعات هذه المسألة على عاتقها، اليوم بعض الجامعات بدأت تتبنى برامج الذكاء الاصطناعي، وهذه خطوة إلى الأمام، وهي خطوة متقدمة جدا، لكن كيف يكون موقف الجامعات من تحذير المجتمع من مخاطر ومغبة الاستخدام السيّئ لهذه البرامج أو الوقوع في شرك بعض البرامج الخبيثة التي قد تعتدي على الحقوق والحريات.
لذلك فإن هذا الموضوع شائك وليس بالأمر السهل، وليس بالأمر الهين أن نتطرق لفكرة هي اليوم تأخذ حيزا كبيرا جدا من النقاش على المستوى العالمي، والذي هو مسألة الذكاء الاصطناعي فهو اليوم يستخدم على مستوى العالم، وكل العالم يتكلم حول الذكاء الاصطناعي وعلى مستوى تطبيقاته التي امتدت شرقا وغربا وتتدخل اليوم في كل جزئيات حياتنا، ليس على مستوى الذاتي أو الشخصي أو الأسري، وإنما مستوى الدولة وقيادتها.
وللإشارة السريعة ولو مبسطة، أن قانون هيئة الإعلام والاتصالات، لم يتطرق لا إلى دور هذه الهيئة في مسائل الذكاء الاصطناعي، لأن هذا القانون قديم جدا، صدر في عام 2004، كذلك وزارة الداخلية أسست لبعض المديريات الخاصة بمكافحة الجريمة الإلكترونية لكن هذه المديرية لا تزال تقوم اليوم بدور رائد وتحقق نقلات نوعية في مكافحة بعض الجرائم كالابتزاز الإلكتروني وغيرها، لكن لا زالت تحتاج إلى الدعم والإسناد وإلى استراتيجية فنية متكاملة لمكافحة مثل هذه الجرائم والوقوف عند مسبّباتها.
واحدة من الأشياء التي يشيرون لها المختصون، وزارة الاتصالات حاولت أن تحجب بعض المواقع غير الأخلاقية لكن كل المستخدمين الراغبين استطاعوا أن يصلوا إلى هذه المواقع من خلال بعض تطبيقات الذكاء الاصطناعي فك الشفرات التي تفتح تلكم المواقع، وكلم شهود عندما نسافر إلى بعض الدول التي تمنع بعض مواقع التواصل الاجتماعي ممكن من خلال تطبيق صغير ندخله في الهاتف يمكن أن يكسر الحجب في تلك الدول.
لكن هذا الموضوع خطير، ويحتاج إلى وقفة حقيقية، يحتاج إلى أن مراكز البحث والتفكير تضع في حسبانها كيف تتعامل مستقبلا مع هذا الموضوع لأنه يتصل بالقانون الدولي لاسيما الإنساني لأنه الاعتداءات التي نشدها اليوم باستخدام وسائل القتل المستهدف غاية بالخطورة وتشكل انتهكا صارخا لاتفاقيات الأمم المتحدة في جنيف ولاهاي.
كذلك حتى على المستوى الوطني تشكل انتهاكا للضمير الإنساني قبل أن تشكل انتهاكا للقوانين الوطنية.
وفي ختام الورقة نستطلع آراءكم ونسترشد بها لكي نتعرف على آراءكم حول هذا الموضوع، عبر
هذين السؤالين:
السؤال الاول: هل تنبأ المشرع الدستوري أو العادي في العراق إلى أهمية إيجاد البيئة القانونية المناسبة للتحول الآمن إلى تطبيقات الذكاء الاصطناعي؟
السؤال الثاني: ما السبيل إلى تحصين الحقوق والحريات من الآثار السلبية لتطبيقات الذكاء الاصطناعي؟
المداخلات
الذكاء الاصطناعي لا يزال في بدايته
- الأستاذ الدكتور خالد العرداوي؛ مدير مركز الفرات للتنمية والدراسات الإستراتيجية:
الموضوع فني ومعقد وبالنتيجة لربما حتى الدكتور المحاضر حصل له لبس، بين تطبيقات التواصل، بين السوشيال ميديا وبوابات العبور، والذكاء الاصطناعي، الذي يختلف بشكل كامل لأنه يتعلق بقضية التفكير أو اتخاذ القرارات والقيام بمهام نيابة عن البشر.
لذلك هو ليس نوعا من التواصل، وإنما هناك عقل آخر يفكر ويتخذ القرارات نيابة عنك، طبعا الذكاء الاصطناعي لا زال في بدايته، وهو جزء من ثورة المعلومات الحالية التي تسمى كما أظن ثورة المعلومات الرابعة، فبالنتيجة مثلما حصل في الثورة الصناعية الأولى، وإيجاد المحرك البخاري، كان هنالك مستفيدين، وهناك متضررين.
اليوم الذكاء الاصطناعي في بداية ثورته، قطعا سوف يكون هناك مستفيدين ومتضررين، وطبعا هذا قدر لا يمكن لأي شخص التهرب منه، لأن المتوقع وحسب المعلومات المستعمل الآن من العقل البشري المعطى للذكاء الاصطناعي هو جزء محدود، يعني ممكن في قضية تحليل البيانات، ولكن المتوقع له في عام 2050 أو أكثر ممكن أن يعطى له كامل العقل البشري، ويحدث أنه يفكر نيابة عن البشر 100%.
وهذا الأمر يحتاج إلى أن نستعد لهذه الثورة، من الآن إلى ذلك الوقت، الأمم المتحدة انشغلت بهذا الموضوع حتى قبل عام 2024، في عام 2019 شكلت الأمم المتحدة مبادرة الذكاء الاصطناعي، واشتركت فيها دول عديدة، وهذا قرار تم اتخاذه، وفي 2020 شكلت الأمم لجنة سميت بـ أخلاقيات الذكاء الاصطناعي، وهذه اللجنة تابعة إلى اليونسكو.
وهذه اللجنة لا زالت في طور العمل، ولحد الآن لم يخرج تقريرها بالكامل، وقد اشترك فيها علماء ودول متعددة، الموضوع إذن معقد فهنالك أربعة أشياء تدخل في قضية الذكاء الاصطناعي، وهي قضية الشفافية، قضية المساءلة، قضية الخصوصية، وقضية السلامة والأمان، هذه الأمور الأربعة مهمة للغاية، في قضية التعامل مع الذكاء الاصطناعي.
حتى أنت تكون عندك ثورة تقنية، وثورة كبيرة بهذا الحجم، طبعا تحتاج إلى أن تكون لديك قاعدة تشريعية تسند هذا الموضوع، اليوم لدينا حتى في دول الخليج، والعراق وفي الكثير من الدول، لحد الآن لم تكتمل القاعدة التشريعية، فيما يتعلق بالتعامل مع الذكاء الاصطناعي.
الدول تحاول اليوم أن تلاحق هذا التغيير الذي يحصل يوميا، وطالما أننا نتكلم عن قضية الحقوق والحريات، لابد أن نلاحظ أننا نواجه قضية مهمة للغاية، وهي قضية الحماية الفكرية، اليوم هناك طالب وباحث عندك يذهب إلى الذكاء الاصطناعي ويعمل له بحث، لكن السرقة العلمية هنا من الذي قام بها، لأن الذكاء الاصطناعي يجلب لك المعلومات من الشبكة الدولية للمعلومات لكنه لا يشير إلى المصادر.
حسنا، من هو الذي قام بالسرقة هنا؟، هل هي أداة الذكاء الاصطناعي نفسها التي هي جاءت لك بالمادة العلمية، أم أنت الذي وظفت هذا الذكاء الاصطناعي، طبعا أن ستكون جاهلا بمصدر المعلومة التي جاء بها الذكاء الاصطناعي لك، هذا الأمر يحتاج إلى قاعدة تشريعية جديدة.
أعتقد أن المشرع الدستوري أو حتى المشرع العادي لا زال يحتاج إلى وقت، نعم هناك كثير من الأشياء موجودة في قانون العقوبات ومن الممكن أن تردع المتجاوزين، ولكن نعرف أن هذا الشيء حديث ويحتاج إلى أن نتواصل معه، وهذا يحتاج إلى قاضٍ ومشرع، وحتى المعلومات القانونية تحتاج إلى مشرع يقوم بها.
فهل المشرع هو فعلا كان خبيرا بالمعلومات الذكية، حتى يضع هذا القانون، حسنا، وضعه لهذا القانون هل يتناسب مع قضية الحقوق والحريات؟، هل يفهم في قضية الحقوق والحريات، وهل أنه وضع القانون لمصلحة المواطن أم لمصلحة السلطة، مثلما حاليا يمكن للسلطات أن تستغل الذكاء الاصطناعي.
طبعا الذكاء الاصطناعي هو أداة للجميع حتى للمواطن العادي، أنا حاليا في الهاتف الخاص بي يوجد عندي سوشيال ميديا وعندي أيضا برامج الذكاء الاصطناعي، يعطيني معلومات لا أجدها في أي مصدر آخر، حتى في قضية حماية خصوصية الأفراد، الذكاء الاصطناعي أحيانا لا يعطيك معلومات عن الشخصيات إطلاقا، يبقى الأمر متعلقا بالجهة التي صنعت هذا البرنامج للذكاء الاصطناعي هل تسمح له الإحاطة بمعلومات الأفراد أم لا؟
لأنه أحيانا أنا أطلب معلومات عن بعض الشخصيات، فيقول البرنامج لي غير مسموح لي أن أعطيك معلومات خاصة عنه ويتوقف، فأعتقد أن المشرع العراقي يحتاج أولا إلى خبرة فنية، حيث يوجد إلى جانب المشرع وإلى جانب القاضي حتى يثبت لنا أن هذا الذكاء الاصطناعي تم استعماله بطريقة صحيحة تتناسب مع الحقوق والحريات أو بطريقة غير صحيحة، حتى في صياغة النص التشريعي يحتاج أن يكون عنده إحاطة كاملة.
ونحن نعرف أن النص القانوني لا يوضع لهذه اللحظة التي كُتب أو شُرِّع فيها، نحن مثلا قانون العقوبات العائد لنا شرّع في عام 1969، ولحد الآن نحن نعمل به أليس كذلك؟، هذا يعني أن المشرع في ذلك الوقت كان لديه إحاطة بالمستقبل أيضا.
هنا نحتاج إلى أن المشرع الذي سيضع لنا نصا قانونيا، يخص قضية الذكاء الاصطناعي، هل عنده إحاطة بالتطورات التي سوف تحصل من الآن حتى الخمسين سنة القادمة، وكيف سيحصل هذا التطور في مجال الذكاء الاصطناعي.
الإجابة عن السؤال الثاني، السبيل لتحصين الحقوق والحريات من الآثار السلبية لتطبيقات الذكاء الاصطناعي، أنا أعتقد إنه يحتاج إلى وعي وحسن النية، على سبيل المثال قضية الابتزاز الإلكتروني، أو تقليد الأصوات، هذا يحدث في الذكاء الاصطناعي، وهو يدل على أن الذي يقوم بهذا الشيء ليس لا يمتلك الوعي باستخدام الذكاء الاصطناعي ولكن يوجد لديه قصد جرمي، وهو يعرف أنه يستعمل هذه الأداة بطريقة غير مشروعة.
فهذا الأمر يحتاج إلى وعي، ويحتاج أيضا، إلى تشخيص مواطن التجريم في هذا المجال، إذا بقيت الأمية المعلوماتية، فسوف نلاحظ أن جميع أبناء مجتمعنا بل كل مجتمعاتنا هي تواجه التهديد، لأنه سوف تكون هناك فجوة بين من يعرف استخدام الذكاء الاصطناعي ويعرف كيف يوظفه، وبين من يجهل ذلك، كما يحدث لدينا اليوم الكثير من المشاكل في السوشيال ميديا لأن الذي يستعملها هو غير واع بشكل كامل بطريقة استعمالها.
شكرا للباحث على هذا الموضوع، والحقيقة يحتاج إلى الكثير من الجهود للعمل عليه، وحتى من قبل صانع القرار بالدرجة الأولى، لأنه هم المعنيون بهذا الأمر.
الذكاء الاصطناعي يخرق سيادة الدول
- الدكتور صلاح البصيصي، مركز المستقبل للدراسات الستراتيجية:
الموضوع يشوبه التعقيد خاصة باعتباري أستاذا في القانون الدولي، فاليوم وسائل الذكاء الاصطناعي انتهكت حتى سيادة بعض الدول. نحن نعرّف السيادة التقليدية هي أن الدولة لها حدودها وبالتالي تحافظ عليها، ولديها قضاء يحاسب على الجرائم داخل الحدود، بينما تطبيقات الذكاء الاصطناعي، أو العالم الافتراضي يتم خرقها في سيادة الدول، توجد معلومات وأسلحة تدخل في دول أخرى.
هنا تستخدم تطبيقات الذكاء الاصطناعي والتقنيات الحديثة في عمليات الاستهداف وتتجاوز كل حدود السيادة، وبالتالي موضوع الذكاء الاصطناعي وتطبيقاته الحقيقة ليس فقط ينظم بتشريعات وطنية، بل يحتاج أيضا إلى اتفاقيات دولية، لأنه في كثير من الأحيان الدول الصناعية المتقدمة أمريكا فرنسا ألمانيا بريطانيا، وبالذات أمريكا، هي التي تحتكر تطبيقات واستخدامات الذكاء الاصطناعي.
لذلك تحاول أن تسخر هذه التطبيقات للذكاء الاصطناعي بما يخدم مصالحها، لذلك فإن الأمم المتحدة مدعوة، إلى إيجاد اتفاقية دولية تحاول لأن تنظم تطبيقات الذكاء الاصطناعي بحيث لا تؤدي إلى نتائج أو آثار سلبية تستخدمها الدول المتقدمة لمصالحها الخاصة.
المفروض أن نستفاد من إيجابيات الذكاء الاصطناعي، ولكن في نفس الوقت أن نقلل قدر الإمكان من سلبيات هذا الذكاء، خاصة حين نربط الموضوع بحرية الإنسان بالحقوق والحريات.
الحقيقة أن الشركات المنتجة لتطبيقات الذكاء الاصطناعي مدعوة إلى أن تدمج أو تُدخل مظاهر حقوق الإنسان في هذه التطبيقات، فيجب أن تحترم هذه التطبيقات حقوق الإنسان المختلفة، كذلك أن لا تخرق هذه الحقوق، وهذا يحتاج إلى اتفاقية دولية، وهذه الاتفاقية بسبب التطور الحديث ما عادت الدول هي التي تلتزم بها فقط.
وإنما حتى الشركات التي نسميها متعددة الجنسيات التي تمتلك هذه التقنيات، مدعوة كما في العهد الخاص بالحقوق السياسية لسنة 1966 باعتبار أن الحقوق والحريات مكفولة ولكن بشرط أن لا تخالف النظام العام والآداب والأمن.
بالتالي المفروض هذا الكلام مثلما يطبَّق على الدول يجب أن يطبق على الشركات أو حتى على الدول التي تؤسس هذه الشركات، حتى تحترم مبادئ القانون الدولي، وبالذات مبادئ حقوق الإنسان، مثل الأسلحة ذاتية التشغيل التي استخدمت من قبل الولايات المتحدة في كثير من الحروب لاستهداف شخصيات معينة وهي التي تستهدف الشخص دن الرجوع إلى العامل البشري، وهذه القضية أدت إلى خسائر كبيرة بالأرواح.
نعم من الممكن أن يتم استهداف القائد الفلاني ولكن جميع المحيطين به في نفس الوقت من المعرضين للاستهداف، وهذا خلاف مبادئ القانون الدولي الإنساني الذي يدعو دائما إلى التمييز بين المدنيين، إذا كان الهدف العسكري من الممكن استهداف فمن المفروض أن يكون المدني بعيد عن الاستهداف، في حين ان استخدام اسلحة الذكاء الاصطناعي لا تراعي هذا الأمر.
أتذكر في إحدى التجارب في دورات حقوق الإنسان، أو القانون الدولي الإنساني، انه في إحد الأسلحة التي تستخدم فيها الذكاء الاصطناعي، فيها شفرات ورموز معينة، كانت طفلة مع والدتها تحمل مسدسا من البلاستك ومجرد أن شخص الجهاز أن هذا الشيء هو سلاح قام باستهداف الطفلة، وهكذا حتى في مجال حرية التعبير عن الرأي تستخدم أيضا مهارات الذكاء الاصطناعي حتى تفلتر الآراء وبعض الاستخدامات في الشبكة الدولية للإنترنيت.
نعم دائما الذكاء الاصطناعي يفلتر بعض الآراء غير الصحيحة، بعض الرسوم المسيئة، ولكن في نفس الوقت من السلبيات في الذكاء الاصطناعي أنه مثلا حول لفظة الإرهاب أو لفظة السامية، في كثير من الأحيان يحذفها الذكاء الاصطناعي، وفي بعض الأحيان تستخدم هذه الألفاظ من أجل التعليم أو التثقيف أيضا يتم حذفها.
فمهما وصلت تطبيقات الذكاء الاصطناعي نجد أنها تحتاج إلى عنصر بشري للتوجيه، لذلك نتمنى في المستقبل يكون المشرع العراقي ضمن الدول الأخرى التي تحتاج أيضا إلى اتفاقية دولية تلتزم بها وفي نفس الوقت على المشرع العراقي أيضا أن يحصن نفسه بتشريعاته التي تتعلق بالحقوق والحريات وذلك بإضافة بعض القيود على استخدامات الذكاء الاصطناعي حتى نقلل قدر الإمكان من الآثار السلبية لهذا الذكاء.
محاولات لتقنين الذكاء الاصطناعي
- السيد ضياء ضياء الدين، كاتب واعلامي:
في اتجاه حثيث حول التشريعات حول القوانين التي من الممكن أن تحد من الآثار السلبية، وفي جانب آخر هو الإحاطة بالذكاء الاصطناعي نفسه. يعني الدخول إلى عمق الذكاء الاصطناعي حتى تستطيع أن تستفيد منه الاستفادة الصحيحة، وتتجاوز سلبياته.
الجانب الأول أنا أعتقد أن كل دولنا سوف تصل له، لأن الذين صنعوا الذكاء الاصطناعي هم الآن يصنعون قوانين أيضا لمحاولة تقنين الذكاء الاصطناعي، وبالأخير سوف يؤخذ بهذه القوانين وتحاول تستعملها بما يناسب مجتمعاتنا.
الجانب الأهم هو أننا كيف نستطيع أن ندخل للذكاء الاصطناعي، ندخل لهذه التطبيقات وإلى عمق الذكاء الاصطناعي حتى نتمكن من توظيفه بما لا يضرنا، بما لا يسيء لنا، وبما لا يسيء لقيمنا ولتقاليدنا، وأعرافنا، هذا هو المهم، ولعل المتخصصين يفهمون أكثر في هذا الموضوع.
فإذن نستطيع أن نقول أن الذكاء الاصطناعي يعتمد على جانبين أساسيين، يعتمد على إدارة البيانات، والجانب الثاني هو المنطق الذي يعتمدون عليه، يعني ما هو المنطق الذي يحرك هذه المعلومات، وكيف يستفيد من هذه المعلومات، فإذا نتكلم مثلا في فلسفة الأخلاق، فإن المنطق السائد في فلسفة الأخلاق اليوم في الغرب هو المنطق النفعي.
قيمة اللذة هي المهيمنة أو المصلحة، فإذا هذا المنطق في فهم أي فعل أخلاقي هو الذي يعتمده الذكاء الاصطناعي، فبالتالي كل الأمور سوف تسير في هذا الاتجاه، ويصب في هذا الاتجاه، وهم يفرضون الآن ويرسخون هذا المنطق، وهم أيضا يخلقون المنطق أيضا.
نحن في بعض المرات نشاهد هذه التطبيقات الجميلة، المفيدة، أو التي نستفيد منها في كثير من الحالات، ولكن في الواقع يجب أن لا نتعاطى معها بصورة بريئة، صحيح جزء منه هو نفع للبشرية ولكن أيضا وفق عقليتهم وذهنيتهم، هم الذين يريدون أن تسود أفكارهم في النهاية، فبالتالي هذا الأمر لابد أن نساهم في خلق هذا المنطق الذي يستطيع من خلاله أن يوجه هذه التطبيقات للذكاء الاصطناعي.
بعض التطبيقات ممكن ان نستفيد منها استفادة كبرى، إذا تتذكرون قبل أشهر كانت هناك انتخابات في باكستان، عمران خان كان مسجونا وقام ببث فيديو عبر الذكاء الاصطناعي، كلمة لجمهوره وأنصاره، وكانت مؤثرة جدا، ثم تدخل العسكر وزوروا الانتخابات وأخذوا الأغلبية لصالح الاتجاه الآخر.
هذه التطبيقات جميلة مفيدة جيدة، لكن نحن يجب أن ندخل إلى عمق المحرك للذكاء الاصطناعي حتى نستطيع ان نؤثر فيه.
لذلك فإن الجهد الأساسي الذي من المفروض أن نبذله، حتى على صعيد الحقوق والحريات، فإن المنطق السائد هو منطق تصنعه القوى الدكتاتورية والقوى المستبدة في هذا العالم، القوى الاستعمارية والمعادية في النهاية، هو الذين يصنعون هذا المنطق، حسنا، فأنت أيضا لازم تدخل الناشطين في مجال الحريات، والحقوق والديمقراطيين بصورة عام هؤلاء يجب أن يدخلوا في هذا العالم، حتى يخلقون المنطق الذي يكون أيضا بالفعل هو في مصلحة البشرية.
انتشار الابتزاز الإلكتروني
- الأستاذ أحمد جويد مدير؛ مدير مركز آدم للدفاع عن الحقوق والحريات:
إن إي شيء في موضوع الصناعات والتقدم الصناعي، والذكاء ومنذ بداية الثورة الصناعية التي شهدها العالم، هناك سلبيات وإيجابيات، إذا كان الأمر إيجابيا فهذا لصالح الإنسان، وإذا كان استغلالا فهو ضد حقوق الإنسان وانتهاكا لهذه الحقوق، مثلا الثورة الصناعية التي حدث في البداية في أوربا وتطورت في غيرها، استثمارها حدث في جانب تطوير الخدمات.
أما الاستغلال فقد حدث في جانب آخر وهو تطوير الأسلحة للفتك بالبشرية، وقد وصلت إلى صنع القنابل الذرية، التي راح ضحيتها مئات الآلاف في اليابان.
الآن نحن أمام عهد جديد، هو عهد الخوارزميات، والتطور التكنولوجي عبر هذه القفزات الهائلة، وطبعا فيها استثمار واستغلال، الاستثمار جيد ويأتي في خدمة البشرية، كما في قضية التقنيات الطبية وغيرها، لكن الاستغلال دائما نحن في أي شيء جديد صناعي، دائما نبحث في الزوايا السيئة فيه.
يعني ربما من باب الشغف أو حب الفضول أو غير ذلك، ثم يبدأ أصحاب النيّات السيئة تستغل هذا التطور الصناعي في قضايا من الممكن أن تنتهك خصوصية الإنسان، وحرياته، كذلك قضايا الابتزاز التي نراها اليوم، وقضايا أخرى من الممكن أن تثير مشاكل في داخل الدول والمجتمعات وغيرها.
حتى الآن هناك تفكير أو خيال علمي في قضية البوابات النجمية وغيرها، فمن المحتمل في يوم من الأيام ونحن نجلس جلستنا هذه تنفتح بوابة قريبة منا ويتم خطف أحدنا ولا نعلم بذلك، هذا نوع من الخيال العلمي وقد يصل أصحابه إليه.
سابقا يحكي لك أحدهم ويقول لك أنت تجلس في هذا المكان ويوجد شخص آخر في أقصى الأرض لكنك تراه وتتكلم معه، هذا أمر لا يصدّق في ذلك الوقت لأنه بعيد عن الواقع، لذلك قد يتطور العلم في هذا المجال إلى أمور غير متوقَّعة.
المشرع هنا له دوره في وضع قواعد قانونية تضبط هذه القضايا، بحيث يواكب العصر ويواكب التقدم، بالإضافة إلى أن المسؤولية فعلا، هي مسؤولية الوعي، كما يحدث في العراق اليوم بخصوص مواكبة الدول الأخرى بخصوص الحسابات المصرفية، فنحن لحد الآن نستخدم النقد الكاش.
الآن توجه الدولة مع الأمية الإلكترونية، من الممكن أي شخص وأنت تتصفح في هاتفك النقال، وتأتيك رسالة، فتجد حسابك المصرفي صفر، إذا كنت تضع فيه بعض الأموال، هذه القضايا من الممكن أن تحد بوجود الأمية المعلوماتية في داخل المجتمع، وعدم الحذر فمن الممكن أن تُستغَل في هذا المجال.
نأمل من المشرع العراقي والحكومة العراقية أن يلتفتوا إلى هذه القضايا المهمة، بشكل جدي، فالتطور الحاصل اليوم يجب على المجتمعات أن تسير معه وتواكبه، وليس مجرد أن نواجه ونحارب، بل نحد من السلبيات التي تنتهك خصوصية الإنسان وحرياته وحقوقه، يجب أن تكون لها حصانة، ويجب أن توفَّر لها الحماية اللازمة.
تحصين الحقوق والحريات والآثار السلبية
- الأستاذ عدنان الصالحي؛ مدير مركز المستقبل للدراسات الإستراتيجية:
لستُ مختصا بالقانون ولا بالذكاء الاصطناعي، ولكن بقدر ما يتعلق الأمر بعلم الفيزياء، ومن المهم أن يتصدى المشرع القانوني في العراق إلى الأهمية الدستورية والقانونية لتحقيق التحول الآن بالذكاء الاصطناعي، حيث بدأت الدولة تهتم بهذا الجانب.
نحن بالنتيجة اليوم ووضع العراق في العالم الذي أصبح قرية واحدة، فأخذت الدول تستنسخ القوانين وتقوم بتعديلها وفق وضعها الاجتماعي ومناخها القانوني، فهل لدينا دولة ذهبت في هذا الاتجاه؟، على أساس أننا اليوم نعيش حالة من التغير السياسي بعد 2003، ونوع من التغيير السياسي ما بعد 2014 بنسبة معينة. بالنتيجة العراق تعتبر دولة فتية، ما زالت في طور النمو.
الشيء الثاني حول تحصين الحقوق والحريات والآثار السلبية، اليوم تحصين الحقول والحريات بشكل عام وتحصين حقوق الإنسان اليوم هي حالة نسبية، وقد لاحظنا أكبر دول العالم التي تدعي الحرية في أمريكا وكيف يضع الشرطي قدمه على رأس مواطن وقتله، ومع ذلك يتكلمون بالحقوق والحريات لكنها لا تصان بشكل حقيقي.
نحن نؤمن كقاعدة إسلامية وكقاعدة شيعية أن الحقوق والحريات كانت مصانة في عهد رسول الله صلى الله عليه وآله، وأهل البيت عليهم السلام، وتُصان في عهد الحجة عجل الله تعالى فرجه الشريف، ومن الممكن أن تصان بنسبة معينة، ضمن القوانين التي تُدار بها الدولة، أنا باعتقادي أن السؤال الأول مرتبط بالسؤال الثاني، فإذا تنبّأ المشرع الدستوري بهذا الموضوع وتحصينه سوف يتلف إلى تحصين الحقوق والحريات.
لكن تطبيقات الذكاء الاصطناعي الآن في طور الشروع، لذلك لا يمكن أن تشرع الآن لحالة هي مستحدثة، فقد تكون هناك قضايا لم يتم التركيز عليها، ويتم التشريع للجانب الموجود، أو ما يسمى لدينا بالجانب الابتلائي الموجود الآن في الشارع، لكن الذكاء الاصطناعي لمي يستخدم الآن بكل مجالاته بل هو في بداياته حسب معلوماتي.
إذًا يحتاج أن يستنفذ كل جهاته وكل زواياه، وخفاياه، حتى على أقل تقدير الذي يضع القوانين في هذه الجانب ممكن أن يحتوي ويشمل كل الفكرة من أساسها.
فكرة استعمارية جديدة
- الاستاذ صادق الطائي:
اعتقد وهذا حق مشروع ان فكرة الذكاء الاصطناعي هو فكرة استعمارية جديدة، لان الفكرة الاستعمارية مرت بظروف وادوار عديدة منها استعمار عسكري واقتصادي وسياسي وثقافي واخيراً
الاستعمار العلمي (الذكاء الاصطناعي)، انها عملية وطريقة لزرع الخوف والتخويف والقبول بحالة العجز والتخلف، والاعتراف بانهم من العالم الثالث، والقبول بالمعجزات العلمية للعالم المتقدم (الذكاء الاصطناعي) القبول بهذه الفكرة (الذكاء الاصطناعي) نشرها والتحّمس لها هو عمل يدخل ضد الشريعة الاسلامية، لان في الشريعة القياس والتأكيد والتركيز على (النية) والتوجه بدون اجبار او تهديد او خوف نحو الله او القيام بعمل صالح، مثلا الروبوتات او اي جهاز من الذكاء الاصطناعي، يقوم بعمل خير او اجراء عملية طبية او تقارب بين اثنين لا اعتبار له إسلاميا الذكاء الاصطناعي هو اكتشاف علمي ليس قيمة حياتية او إنسانية او شرعية. ربما هذا نوع خاص من أسلحة الموت والقتل وتقنين الابادة للشعوب الفقيرة.
لازلنا نستخدم قشور الذكاء الاصطناعي
- الأستاذ محمد الصافي؛ باحث في مركز الإمام الشيرازي للدراسات والبحوث:
بالنسبة للمشرع العراقي لموضوع مثل الذكاء الاصطناعي الذي يعتبر موضوع أو تطبيق مستحدث، ضمن التطبيقات التي توفرت للمستخدمين نهاية 2022، بشكل مجاني في العالم كله من باب التجربة، فالتشريعات الآن في الاتحاد الأوربي لا زالوا يصيغون بعض القوانين التي تحدد الاستخدام، كما ذكر الأساتذة هناك تركيز بالدرجة الأولى على محددات تخص الجانب الاقتصادي.
مثلا قضايا تتعلق بالصين، بعض المنتجات الصينية مثلا يوجد عليها بعض المؤشرات، فترصدها هذه التشريعات، واستثنوا من التشريعات الجانب العسكري، هذا يعني أنهم سمحوا للشركات بالجانب الاقتصادي أن يتقدموا ويزيدوا البحوث في الجانب العسكري من دون قيود، وهذا يعني أن الذكاء الاصطناعي أيضا داخل ضمن منظومتهم في إدارة الدولة.
هناك قضية ثانية ركزوا عليها، لماذا الأوربيين، لأنه بالنتيجة نحن ما زلنا بعيدين عن الذكاء الاصطناعي، والآن نستخدم قشور الذكاء الاصطناعي، نستخدم بيانات تم إدخالها ضمن النظام، نحن أصلا في الدولة العراقية نفتقد للبيانات التي تخص مؤسسات الدولة، فما بالك بالبيانات التي توجد في الفضاء الإلكتروني؟
المساوئ التي تحتاج إلى متابعة من قبل المشرع أو الجهات الحكومية، ممكن أن يصدروا نموذجا معينا، هو مزيف أصلا، كأن يكون صورة معينة، أو فديو معين أو مقطع صوتي معين، أو محاكاة معينة لقضية معينة، نلاحظ أن الناس تنشغل به ويصبح (ترند) وموضوع يشغل الكل، ونقاشات، لكن بالنتيجة هو أصلا ليس حقيقيا.
فنحن مبتلون بقضية الأخبار والإشاعات والمعلومات المضللة في الجانب التكنولوجي بشكل عام، وليس فقط في جانب الذكاء الاصطناعي.
حول تحصين الحقوق والحريات، أنا أعتقد أن الموضوع لا يزال مجهول لنا ولا نستطيع مناقشته، والدليل على كلامي أننا أصلا توجد لدينا قوانين وتشريعات يحتاجها المواطن بشكل عاجل لمعالجة قضايا إدارية في الدولة أو ربما قوانين قديمة من الخمسينات والستينات والسبعينات، تحتاج تحديثات ورؤية قانونية جديدة. فما بالك بموضوع هو من الأساس هو حديث ومستحدث في العالم.
السيطرة على الذكاء الاصطناعي السيطرة على العالم
- الأستاذ حامد الجبوري؛ باحث في مركز الفرات للتنمية والبحوث الإستراتيجية:
ملاحظتي سوف تتعلق بالعنوان (الذكاء الاصطناعي والشمولية أو اللاشمولية)، أو الذكاء الاصطناعي وطبيعة النظام الاقتصادي، لو أننا نلاحظ تجربتين حول ما نسميه بالسباق نحو الذكاء الاصطناعي، هناك تقرير ورد على قناة الجزيرة الفضائية، يتناول الولايات المتحدة الأمريكية والصين، والسباق بينهما على الذكاء الاصطناعي.
لأن السيطرة على الذكاء الاصطناعي تعني السيطرة على العالم، هناك صراع حاد بين الولايات المتحدة الأمريكية والصين، السيطرة على الذكاء الاصطناعي وتوظيفه، يظهر هنا مسألة النظام الاقتصادي، يعني من الممكن للصين أن تعمل على توظيف الذكاء الاصطناعي بعيدا عن الحريات والحقوق، لأن النظام موجّه وشمولي قادر على إقصاء الآخرين من خلال توجيهه باتجاه معين.
ولذلك هذا النظام يكون أخطر على الحقوق والحريات، بينما يحدث العكس تماما وهو اللا شمولية، الرأسمالية التي دائما تفسح المجال للقطاع الخاص، لأنه أصلا نظام قائم على التنافسية، ولذلك من خلال الحافز على الأرباح أدى إلى الوصول للذكاء الاصطناعي.
سوف تظهر لدينا أيضا مسألة المؤسسات، يعني في أمريكا، المؤسسات لها قيمتها، إلى جانب القطاع الخاص، يعني رئيس شركة كوكل هو يعادل الدولة أو دول، فهناك وجود المؤسسات يحمي القطاع الخاص من هيمنة الحكومة على الذكاء الاصطناعي، فهو هنا يمارس دوره وكلمته في ظل وجود مؤسسات.
هنا يوجد مسألة واضحة جدا، هي مسألة النظام الاقتصادي، الذي يكون له دور في حماية الحقوق والحريات، ومن ثم تظهر لنا مسألة ثانية وهي عندما يتمادى القطاع الخاص على حقوق الآخرين، هنا لابد من العمل على تحسين النظام الاقتصادي ويجب أن يحمي الحقوق والحريات من خلال مثلا فرض ضرائب عالية على الشركات التي تحقق أرباحا، حتى يتم تحقيق نوع من التوازن معي المجالات الأخرى.
ان القطاع الخاص كلما تطور أكثر يخلق لنا مشكلة ثانية وهي مشكلة التفاوت الاقتصادي في المجتمع، تأتي هنا مسألة السياسة الاقتصادية من قبل الحكومة والضرائب التي تحقق التوازن، فمسألة النظام الاقتصادي لها دور في حماية الحريات من خلال اللامركزية من جانب، وإدارة اللامركزية من جانب آخر هذه نقطة رئيسية.
هذا يجري على مستوى نظام رسمي، أما على مستوى الأفراد أو المجتمع، هنا يجب توعية الناس ووضع خطط خصوصا في مجال التعليم أو في المدارس، والتربية والتعليم، فيكون هناك نوع من المادة التدريسية للطلبة بشكل عام، وتوعيتهم بمدى أهميته من جانب، وخطورتها وكيف يحتمي من الأضرار التي تتعلق بالذكاء الاصطناعي. فهي تتعلق بمسألة القطاع الاقتصادي من جانب، ومسألة التربية والتعليم من جانب آخر للحفاظ على الحقوق والحريات.
تأخر المشرّع في معالجة الذكاء الاصطناعي
- الأستاذ حسين علي حسين؛ باحث مركز الفرات للتنمية والدراسات الإستراتيجية:
المشرع العراقي الدستوري أو العادي، لم يتنبأ بصورة كامل لأهمية هذا الموضوع المهم، وأعزو ذلك إلى سببين هما:
أولا: السبب الأول هو حداثة الموضوع، أي حداثة استخدام تطبيقات الذكاء الاصطناعي في العراق.
ثانيا: أما السبب الثاني فهو يكمن في تأخر الجهات التشريعية بالعراق في إلقاء الضوء على هذا الحقل التواصلي الإلكتروني البالغ الأهمية، فليس هناك اهتمام واضح على الرغم من مدى أهميته. هذا ما يتعلق بالجواب عن السؤال الأول.
إن السبيل لتحصين الحقوق والحريات لتطبيقات الذكاء الاصطناعي، يمكن أن يأتي من خلال الإطلاع على تجارب الدول الأخرى التي سبقتنا في التعامل مع هذه التطبيقات، مع الأخذ بهذا الموضوع بنظر الاعتبار، مثالا على ذلك الغرامات المرورية.
بالعراق تم العمل باستخدام الكاميرات الذكية لقطع الغرامات المرورية على من يرتكب مخالفة أثناء السياقة مثل تجاوز السرعة المحددة مثلا أو ضرب الإشارة المرورية، بينما في الدول الغربية مثلا، حين يتعرض أحدهم إلى قطع غرامة لأي سبب كان، فإن الغرامة ومقدار المبلغ حيث تصل الغرامة إلى المخالف وهو في بيته، بينما حاليا في العراق من الممكن أن تُسجَّل عليك غرامة لكن لا تصل إليك وتبقى لا تعلم بها.
في مثل هذه الحالة فإن حقوق المواطن وحرياته تم التجاوز عليها، أو تم سلبها، فالجانب السلبي للذكاء الاصطناعي يكمن في هذه الكاميرة كمثال وعدم التبليغ بالغرامة عبر الموبايل أو البريد الإلكتروني، هنالك الكثير من الأمور الأخرى، لذا يجب زيادة الوعي عند الفرد العراقي وفي المؤسسات التشريعية المتخصصة بهذا الموضوع.
خوارزميات الذكاء الاصطناعي
- الأستاذ علي نجاح، متخصص برمجي وتكنولوجي:
استخدام الذكاء الاصطناعي يعتمد على إنتاج حجم البيانات، شركة مايكروسوفت عام 2016 صرفت مليارات الدولارات وعلى أساس ذلك بنت خوارزميات في الذكاء الاصطناعي وحذت حذوها باقي الشركات، في العراق الآن بداية التحول الرقمي، والتحول الرقمي يختلف كثيرا عن الذكاء الاصطناعي، وإن كان الأخير يختلف كثيرا عن المعلومات، مثل معلومات الأشخاص، معلومات المستشفيات، ومعلومات المدار... إلى آخره.
ولكن نحن نحتاج إلى سنوات لكي نجمع المعلومات، وعند ذاك نكون منتجين للذكاء الاصطناعي، السؤال المهم في موضوع تطبيقات الذكاء الاصطناعي، أن هذه الأمور التي تقوم بجمعها الدولة أو الشركات، هل فيها حقوق، هل يعود ذلك إلى مادة قانونية تسمح باستخدام هذه المعلومات، ويسمح للشركات والدول أن تجمع هذه المعلومات ثم تستخدمها كما تشاء؟، الإجابة عن هذا الأمر يعود لكم وأقصد الأساتذة بمادة القانون.
فقدان الرؤية للطبقة السياسية
- الدكتور حسين السرحان؛ باحث في مركز الفرات للتنمية والدراسات الإستراتيجية:
العراق لم يبلغ من الوعي والإدراك لهكذا مواضيع، مثلا يوجد لدينا بعد التغيير السياسي في 2003، نلاحظ على منظومة الحكم أو المنظومة السياسية بالعراق أنها تفتقد للفلسفة والرؤية في كل شيء، ولذلك نرى بأننا متأخرون في كل شيء.
يعني مثلا نحن نفتقد للديمقراطية في الانتخابات ونعلن بأننا نريد أن نرسخ الجانب الديمقراطي بشفافية ووضوح لمشاركة الناس بشكل عام بقرار الحكم وبإنتاج المنظومة السياسية، وهل الناس تقتنع بمنظومة إدارة الشأن العام، كلا لم يكن الأمر كذلك بل تمت صياغة قانون الانتخابات كونها مظهر سياسي تظهره أمام الرأي العام بأننا نظام ديمقراطي.
ويبقى نتاج هذه المنظومة محكوم بطبقة سياسية تضرب بإرادة الناخبين عرض الحائط، بالنسبة لقانون حرية التعبير، أيضا لا يوجد لدينا قانون عنها لحد الآن، رغم المساهمات والمشاريع قبل احتجاجات تشرين، فثبت أننا لا يوجد لدينا فلسفة لهذا الشيء، ولا توجد لدينا رؤية أو فكرة ماذا نريد من حرية التعبير.
هل نريد أن نضمن مشاركة الجميع بإدارة الشأن العام، أو نعبر عن ما في داخلنا، أو نسمح للمنظمات أو لأفراد وإعلاميين ومؤسسات إعلامية أو أكاديمية أو بحثية أو غيرها، كلا لا يوجد لدينا هذا الشيء، أيضا جرائم المعلوماتية، لم ندرك ولم نفهم أو الشعب العراقي لا يعرف ماذا يريد من موضوع المعلوماتية لكي نستطيع أن نقف ونواجه هذه الجرائم أو غيرها.
يبقى الذكاء الاصطناعي من وجهة نظري البسيطة، فقبل قرنين كانت البشرية أمام الثورة الصناعية، وبعدها جاءت الثورة التكنولوجية، ونحن الآن أمام ثورة شبيهة بالثورة الصناعية يمكن أن نسميها بثورة الذكاء الاصطناعي.
فعدم إدراكه وعدم التنبؤ به لحداثة الموضوع بصراحة أراه غير منطقي، لذلك نحن في العراق لن ندرك هذا الموضوع نهائيا، ولا نتنبأ به نهائيا، فعندما تلاحظ أو تتبع السلوك السياسي أو السلوك التشريعي لمجلس النواب العراقي، سوف تعرف بأنك بعد أكثر من عشرين سنة على الانتقال إلى الديمقراطية لازلنا نحن بدون ديمقراطية ومشهد انتخابي ثابت و واضح.
لا زلنا بدون أنظمة كاملة في موضوع اللامركزية الإدارية والمالية، ولا زلنا بعيدين جدا عن فلسفة اقتصادية واضحة للدولة، لا زلنا بعيدين جدا عن فلسفة اجتماعية واضحة في الدولة، أو فلسفة التنشئة الاجتماعية والسياسية في الدولة العراقية، هذه القوى السياسية إذا أرادت شيء فتذهب إليه وتدخل فيه مباشرة.
اضرب لك هذا المثال، في وزارة التعليم العالي والبحث العلمي، لما أرادت قوى سياسية معينة أن تشغل الرأي العام بجرائم البعث (وهي جرائم واضحة لا تحتاج إلى توضيح)، ولا تحتاج إلى التذكير بها نهائيا، لكن أريد أن أذكر بها حتى أستمر باختلاس المال العام، ونشر الفساد والسيطرة على الدولة، وبناء دولة داخل الدولة، فأشغل الرأي العام بموضوع البعث وغيره.
ولذلك نلاحظ أن هذه الوزارة وضعت منهاجا عن حزب البعث والمنهاج دخل إلى الوزارات بقرار وزير، ويضاف وحدة واحدة على كل الساعات التدريسية للطلاب وبدأوا في تدريسه، إذن توجد إرادة سياسية، ولكن إذا نريد إرادة سياسية باتجاه معين، لماذا لم تتحقق إرادة من السيد الوزير حول لجنة وزارية تشتغل على موضوع الذكاء الاصطناعي، وتدخله ضمن المناهج أليس كذلك؟، كما تم إدخال الحاسوب وحقوق الإنسان وغيرها.
هذه هي مشكلتنا، ماذا نريد من حقوق الإنسان وحرية التعبير في العراق؟، هذا الأمر غير واضح، هل واضح هذا لنا كأكاديميين ومتابعين ومختصين بالشأن العام والإدارة والاقتصاد، وما هو هدفنا من حرية التعبير، أو حريتنا أو هدفنا من حقوق الإنسان، لكن كدولة أو كمنظومة حكم وقوى سياسية وعناصر متحكمة بالنظام السياسي غير مدركة لحرية التعبير، فهي مدركة لحرية التعبير التي تخصها هي.
نحن توجد لدينا مشكلة، نحن في العراق المشرع العراقي، لحد الآن أنا أضمن لك إنه عدا المختصين بالعلوم السياسية، كل هؤلاء إذا تسألهم عن المشرع العراقي سوف يقول لك ماذا يعني المشرع العراقي، لا يعرفون ذلك، ولا يعرف بأنه مراقِب، وهو جزء من الرقابة السياسية أو ممثل للرقابة الشعبية على النظام الحاكم، كلا هو غير مدرك إنه مشرع أصلا، ولا يدرك ما هو دوره، ولذلك تراه يعقب معاملات ويبحث عن تعيينات وغيرها.
هل تعلم إذا أردنا تغيير منهج دراسي نحتاج إلى الكثير، الآن لو أردنا تغيير منهج القانون العام يحتاج إلى إجراءات لمدة سنتين، وكذلك في تكنولوجيا المعلومات حيث أن مناهجها لا زالت تقليدية، منذ بداية الثورة التكنولوجية في بداية التسعينات، الآن أريد أن أدخل منهاجا جديدا حول موضوع الذكاء الاصطناعي مثلا، تحديث على هذه المفردات، أو في الاقتصاد والعلوم السياسية أو غيرها.
إذا أردت أن تضيف فهذا شيء روتيني كبير جدا، يبدأ من قسم في الكلية إلى مجلس كلية إلى مجلس جامعة إلى مجلس الرأي وإلى البحث والتطوير وهيأة الرأي ومصادقة الوزير وهكذا نحتاج من سنتين إلى ثلاث سنوات لكي تقوم بتغيير أحد المناهج البسيطة.
القصد يوجد لدينا روتينية في الأداء، والمسؤولون عن المؤسسات أغلبهم فاقدين للرؤية حول الشيء المطلوب، فاذا تم تمكين أفراد المجتمع سياسيا تربويا ثقافيا وفي موضوع الذكاء الاصطناعي، وتتم ازالةل الأمية الإلكترونية في التحول الرقمي أو المعلوماتية أو سواها، سوف يتحولون إلى عناصر فاعلين بالمستقبل ومفيدين للمجتمع والدولة.
حاليا القوى السياسية بالمجمل تنظر إلى المجتمع كأنه عدو بصراحة، لذلك نلاحظ أننا متأخرون في تشريعات كثيرة، وتنظيمات كثيرة، نحتاج أن يدخل منهج الذكاء الاصطناعي في المراحل التعليمية كدرس يقدم المعلومات للطلاب، فالذكاء الاصطناعي بالنتيجة هو اختراع بشري، الحاسبة يمكن استخدامها خيرا وشرا، وكذلك مواقع التواصل الاجتماعي تستخدم خيرا وشرا، فكل اختراع بشري يتم تنظيمه، فالتشريعات من وجهة نظري أما تنظم الاستخدام وتمنع استخدام الأغراض السلبية وضرورة الوعي به وهذه هي فلسفة أو الهدف من التشريعات. لذلك نلاحظ يجب أن يمون هناك وعي به من خلال التعليم والتربية، بعد ذلك يفرض نفسه من خلال المجتمع المدني والباحثين وغيرهم.
تعقيبات مقدم الورقة
وأخيرا عقّب الباحث الدكتور علاء الحسيني على ما ورد من تساؤلات للحضور قائلا:
تعقيبا على ما تفضل به الدكتور خالد العرداوي لم يحدث خلط لأن وسائل الذكاء الاصطناعي هي أكثر من استخدم الذكاء الاصطناعي، اليوم مثلا اكتب في الفيس بوك (الحشد الشعبي) سوف يتم حظر حسابك، هل هناك موظف قام بالحضر أم يوجد برنامج قام بذلك؟، فهو يترصّد كل شخص يقوم بالنشر، لماذا لأن الذكاء الاصطناعي عبارة عن مجموعة برامج، تستخدمها كل الشركات تقريبا، فلكي تصل إلى الذكاء الاصطناعي تحتاج إلى بعض الأمور، مثلا بالانتخابات حين تحتاج للذكاء الاصطناعي يجب أن تفعّل منظومة دقيقة جدا من سجل الناخبين إلى أخر فقرة.
فأنت لكي تقوم بتحليل دقيق لمواقع الضعف والقوة تحتاج إلى الذكاء، حين كنا في الكلية أتينا ببرنامج يعتمد على الذكاء الاصطناعي وهو جدا بسيط (برنامج التصحيح التلقائي)، من مميزات هذا البرنامج، أنه قمت بإدخال الأسئلة ثم أدخلت الإجابة فصحح جميع الطلاب 500 طالبا، يعطيك مؤشر بأن هذا السؤال أخطأ فيه 400 طالب من أصل 500، دعني أحلّل لك لماذا أخطأوا، وبدأ يعطيك تحليل الخطأ فيقول لك:
إنهم أخطأوا لأن صياغة السؤال خطأ، أخطأوا لأنه تقدم الخيار الأول على الثاني، أخطأوا لأنه كذا وكذا.. هو لا يدري ماذا يحدث بالواقع، لكنه يعطيك احتمالات، احتمال أول واحتمال ثان، هذه هي فائدة الذكاء الاصطناعي يولّد لك احتمالات عديدة، أنت كذكاء إنساني ستذهب مباشرة على الخيار الأكثر قربا لك وأكثر قناعة به، لذا يجب علينا في العراق أن نعمل على قانون المعلوماتية وما يتعلق بالذكاء الاصطناعي ونحاول ذلك كبداية.