الذكاء الاصطناعي.. حبس المارد الذي قد يتسبب بانقراض البشرية
شبكة النبأ
2023-06-17 07:03
نشر خبراء من بينهم مبتكر برنامج "تشات جي بي تي" سام ألتمان ورجال أعمال كبار، بيانا على موقع منظمة "سنتر فور إيه آي سايفتي" غير الربحية، أوضحوا فيه أن تطور الذكاء الاصطناعي ينطوي على خطر "انقراض" للبشرية. ويعتقد هؤلاء أنه من الضروري مكافحة المخاطر المرتبطة بالذكاء الاصطناعي لتكون "أولوية عالمية"، على غرار "الأوبئة والحروب النووية" التي قد تهدد المجتمع. ووقع البيان جيفري هينتون أحد آباء الذكاء الاصطناعي وكذلك سام ألتمان مبتكر برنامج "تشات جي بي تي".
ورأى موقعو البيان الذي نُشر على الموقع الإلكتروني لمنظمة "سنتر فور إيه آي سايفتي" غير الربحية التي تتخذ الولايات المتحدة مقراً لها، أن مكافحة المخاطر المتعلقة بالذكاء الاصطناعي ينبغي أن تكون "أولوية عالمية كسواها من المخاطر الأخرى على مستوى المجتمع، كالأوبئة والحروب النووية".
وشارك جيفري هينتون في توقيع البيان، وهو الذي يعتبر أحد الآباء المؤسسين للذكاء الاصطناعي، وكان قد حذر من مخاطره عندما ترك منصبه في شركة "غوغل" العملاقة في مطلع آيار/مايو. وشدّد في مقال نشرته صحيفة "نيويورك تايمز" من أن التقدم في قطاع الذكاء الاصطناعي يشكل "مخاطر جسيمة على المجتمع والإنسانية".
كما يواظب الأمريكي سام ألتمان على إبداء مخاوفه من إمكان إلحاق الذكاء الاصطناعي "أضراراً جسيمة بالعالم"، من خلال تزوير نتائج عمليات انتخابية مثلاً، أو إحداث تغييرات جذرية في سوق العمل.
وفي آذار/مارس الفائت، دعا مئات من الخبراء العالميين من بينهم الملياردير إيلون ماسك الذي كان بين مؤسسي شركة "أوبن إيه آي" عام 2015 وترك مجلس إدارتها 2018، إلى التوقف لستة أشهر عن إجراء أبحاث ترمي للتوصل إلى تقنيات ذكاء اصطناعي أقوى من "تشات جي بي تي"، معربين عن تخوفهم مما تحمله هذه التكنولوجيا من "مخاطر كبيرة على البشرية".
وشكّل إطلاق "أوبن إيه آي" في آذار/مارس الفائت "تشات جي بي تي-4"، وهو إصدار جديد أقوى من "تشات جي بي تي" الذي أتيح استخدامه في نهاية 2022، مؤشراً إلى الانتشار السريع للذكاء الاصطناعي الآخذ في اكتساب الطابع "العام" والذي يوفر قدرات معرفية بشرية ويُغني تالياً عن مِهن عدة.
رقابة عاجلة وشفافية مشددة
كما دعا خبراء من الأمم المتحدة اليوم إلى مزيد من الشفافية والرقابة والتقنين لمواجهة التأثير السلبي للأدوات الحديثة والناشئة والفضاءات الإلكترونية على حقوق الإنسان.
وقال الخبراء، قبل انعقاد قمة RightsCon في كوستاريكا في الفترة ما بين 5-8 يونيو حزيران، إن "التقنيات الجديدة والناشئة بما فيها أنظمة مراقبة القياسات الحيوية التي تعتمد على الذكاء الاصطناعي، تُستخدم في سياقات حساسة دون علم الأفراد أو موافقتهم".
وعبر الخبراء عن قلقهم من انتشار برامج التجسس التي تنتهك الخصوصية وتقنيات المراقبة التي تُستعمل بصورة غير قانونية ضد المدافعين عن حقوق الإنسان والناشطين والصحفيين والمجتمع المدني في مختلف المناطق.
وأدان الخبراء "التأثير المخيف لهذه الإجراءات غير القانونية على شرعية عمل المدافعين عن حقوق الإنسان والفضاء المدني في مختلف أنحاء العالم، تحت ذريعة الأمن القومي وإجراءات مكافحة الإرهاب".
وشدد الخبراء على الحاجة لضمان ألا تعرض تلك الأنظمة الأشخاص والمجتمعات لانتهاكات حقوق الإنسان بما فيها التوسع في أعمال المراقبة التي تنتهك الخصوصية وتحد من الحق في تلك الخصوصية، وتفسح المجال أمام انتهاكات جسيمة لحقوق الإنسان بما في ذلك الاختفاء القسري والتمييز.
وأعرب الخبراء أيضا عن قلقهم إزاء التأثير الذي يطال احترام حريات التعبير والتفكير والتظاهر السلمي والوصول إلى الحقوق الاقتصادية والاجتماعية والثقافية الأساسية والخدمات الإنسانية.
وأشار الخبراء إلى أن ما يعرف باسم "الذكاء الاصطناعي التوليدي" يمكن أن يدعم إنتاجا واسع النطاق رخيصا وسريعا لمحتو صناعي ينشر معلومات مضللة أو يروج أو يضاعف من مشاعر الكراهية والتمييز أو العنف على أساس العرق والجنس والنوع أو جوانب أخرى.
وحذر الخبراء أيضا من أن تطوير تلك الأدوات تقوده مجموعة صغيرة من اللاعبين النافذين بمن فيهم مستثمرون وشركات، دون الأخذ في الاعتبار المتطلبات المناسبة لصيانة حقوق الإنسان أو التشاور مع الأفراد أو المجتمعات المعنية.
وقال الخبراء "التقنين ضرورة ملحة من أجل ضمان الشفافية وتنبيه الأشخاص عند التعامل مع وسائط مخلقة، وإطلاع الرأي العام على البيانات والنماذج المستخدمة" من قبل أنظمة الذكاء الاصطناعي التوليدي.
ودعا الخبراء إلى التريث في استخدام وسائل جمع البيانات على نطاق واسع بما فيها المعلومات الحيوية الحساسة "إلى أن يتم استيعاب المعطيات الأشمل لحقوق الإنسان وتوفير ضمانات فعالة لحماية البيانات".
وذكَّر الخبراء الدول والشركات بواجباتهم ومسؤولياتهم بما فيها المتطلبات المناسبة لصيانة حقوق الإنسان عند تطوير التقنيات الرقمية واستخدامها والتحقق منها وشرائها. وأضاف الخبراء "يجب ألا يخلق أو يعزز الجيل التالي من التقنيات أنظمة تدعم الاقصاء والتمييز وأشكال القمع".
مدونة سلوك للذكاء الاصطناعي
كما أعلن الاتحاد الأوروبي والولايات المتحدة مشروع "مدونة سلوك" مشتركة للذكاء الاصطناعي تكون متاحة لشركات هذا القطاع على أساس تطبيق طوعي، بمواجهة مخاطر فرض الصين نهجها في تنظيم قطاع يشهد فورة كبيرة.
ويظهر إجماع عبر العالم بما يشمل المسؤولين السياسيين كما مبتكري القطاع، على الحاجة إلى تحديد إطار لتكنولوجيا ثورية تنطوي على مخاطر كبرى بحصول تجاوزات.
وكانت مسألة الذكاء الاصطناعي من المواضيع الرئيسية المطروحة خلال اجتماع لـ"مجلس التجارة والتكنولوجيا" الأوروبي الأميركي في لوليا بشمال السويد، في حضور مبتكر "تشات جي بي تي" سام ألتمان.
وأنشئت هذه الهيئة عام 2021 بين الدول الـ27 وواشنطن لطي صفحة الخلافات التجارية في عهد الرئيس الاميركي السابق دونالد ترامب.
كما تم الاتفاق على مجالات تعاون حول شبكة الجيل السادس جي6، وهو من المجالات التكنولوجية النادرة التي يهيمن فيها الأوروبيون.
وجاء في بيان ختامي أن "الاتحاد الأوروبي والولايات المتحدة يتقاسمان وجهة النظر المشتركة بأن تكنولوجيا الذكاء الاصطناعي تنطوي على فرص كبرى لكنها تطرح أيضا مخاطر على مجتمعاتنا".
وبعد اجتماع في شمال السويد، صرح وزير الخارجية الأميركي أنتوني بلينكن أن الغربيين يشعرون بـ"الحاجة الملحة" إلى التحرك مع تسليط الأضواء على هذه التكنولوجيا وأدواتها الثورية مثل روبوت الدردشة "تشات جي بي تي".
وقال خلال مؤتمر صحافي مشترك مع مسؤولين كبار في بروكسل أن مدونة السلوك المعلنة الأربعاء "ستكون مفتوحة لكل الدول التي تتشاطر الذهنية ذاتها".
من جهتها، أفادت نائبة رئيسة المفوضية الأوروبية المكلفة المنافسة مارغريتي فيستاغر المعروفة بصراعاتها مع عمالقة الإنترنت الأميركيين، أنه سيتم طرح نسخة أولية "خلال الأسابيع المقبلة".
وقالت المفوضة الدنماركية خلال المؤتمر الصحافي المشترك مع بلينكن "نعتقد أنه من المهم فعلا أن يرى المواطنون أن الديموقراطيات تتحرك".
وأضافت أن الهدف هو التوصل "في وقت قريب جدا" إلى اقتراح نهائي على أمل ضم "أوسع دائرة ممكنة" من الدول، ذاكرة في هذا السياق "أصدقاءنا في كندا والمملكة المتحدة واليابان والهند".
ويخشى الأميركيون والأوروبيون أن تفرض الصين معاييرها في هذا المجال إذا لم يوحد الغرب صفوفه.
ويطمح الاتحاد الأوروبي لأن يكون أول من يضع إطارا قانونيا متكاملا وإلزاميا للحد من تجاوزات الذكاء الاصطناعي، غير أن هذا الإطار لن يدخل حيز التنفيذ سوى في نهاية العام 2025 على أقرب تقدير، في حين أن مدونة السلوك المشتركة مع الولايات المتحدة سيكون تطبيقها طوعيا، على ما أوضحت فيستاغر.
قواعد استخدام الذكاء الصناعي
كما أقر مشرعون في الاتحاد الأوروبي تعديلات على مسودة لقواعد الذكاء الصناعي لتشمل حظرا على استخدامه في رصد القياسات الحيوية وإلزام مستخدمي أنظمته التوليدية مثل (تشات جي.بي.تي) بالكشف عن المحتوى الناتج عنها.
والتعديلات على مشروع القانون التاريخي الذي اقترحته المفوضية الأوروبية بهدف حماية المواطنين من مخاطر هذه التكنولوجيا قد تؤدي إلى صدام مع دول الاتحاد الأوروبي التي تعارض فرض حظر كامل على استخدام الذكاء الصناعي في جمع وتحليل بيانات القياسات الحيوية للأشخاص.
ودفعت سرعة تبني تطبيق (تشات جي.بي.تي)، الذي طورته شركة (أوبن إيه.آي) المدعومة من مايكروسوفت، وغيره من برامج الذكاء الصناعي كبار علمائه ورؤساء شركات تنفيذيين إلى التحذير من المخاطر المحتملة التي قد يتعرض لها المجتمع جراءه.
قال براندو بينيفي، المقرر المشارك لمشروع القانون "بينما تدق شركات التكنولوجيا الكبرى جرس الإنذار بشأن إبداعاتها، مضت أوروبا قدما واقترحت استجابة قوية للمخاطر التي بدأ يشكلها الذكاء الصناعي".
ومن بين التعديلات الأخرى، يريد المشرعون في الاتحاد الأوروبي من الشركات أن تكشف عن أي مواد محمية بحقوق الملكية الفكرية تستخدمها في تدريب أنظمتها للذكاء الصناعي وأن تقدم الشركات التي تعمل على "تطبيق عالي الخطورة" تقييما لتأثيره على الحقوق الأساسية والبيئة.
وسيتعين على مستخدمي أنظمة مثل (تشات جي.بي.تي) الكشف عن أن المحتوى ابتكره الذكاء الصناعي، والمساعدة في التمييز بين الصور المزيفة والحقيقية وضمان الحماية من المحتوى غير القانوني.
وسيتعين على المشرعين الآن مناقشة التفاصيل مع دول الاتحاد الأوروبي قبل أن تصبح مسودة القواعد قانونا.
وفي مصادفة ملفتة، ألقت رئيسة الوزراء الدنماركية ميته فريدريكسن خطاباً في البرلمان، كُتب الجزء الأول منه بالكامل بواسطة "تشات جي بي تي"، بهدف تسليط الضوء على الجانب الثوري لهذه التكنولوجيا فضلا عن مخاطرها على الديموقراطية.
وقالت للنواب الدنماركيين "رغم أنه لا يصيب المطلوب على الدوام، سواء في تفاصيل برنامج عمل الحكومة أو علامات الترقيم (...) ما يمكن لـ("تشات جي بي تي") أن يفعله يثير مشاعر متضاربة من الدهشة والرعب في آن".
الصين تريد تعزيز تنظيم القطاع
بدوره اتفق الرئيس الصيني شي جينبينغ ومسؤولون حكوميون كبار خلال اجتماع على الحاجة إلى تعزيز تنظيم قطاع الذكاء الاصطناعي.
وجرى الاتفاق خلال قمة للحزب الشيوعي الصيني على "تحسين مراقبة بيانات الشبكة والذكاء الاصطناعي"، بحسب المصادر نفسها.
وقال المسؤولون بعد الاجتماع "يجب أن نستعد لأسوأ الاحتمالات والسيناريوهات الممكنة وأن نكون مستعدين لمقاومة الرياح العاتية والمياه الهائجة وحتى العواصف الخطيرة"، بحسب ما نقلت عنهم وكالة أنباء الصين الجديدة (شينخوا).
وصرّح الرئيس شي جينبينغ "لقد ازداد تعقيد وخطورة قضايا الأمن القومي التي تواجه بلادنا بشكل كبير".
كانت السلطات الصينية قد أعلنت في نيسان/أبريل أنها ستفرض "فحصا أمنيا" على الأدوات المطورة في الصين وتستند إلى الذكاء الاصطناعي مثل "تشات جي بي تي".
وقدمت مشروع قانون يهدف إلى ضمان "التنمية الصحية والتطبيق النموذجي لتكنولوجيا الذكاء الاصطناعي التوليدية".
أتاحت إدارة الفضاء السيبراني الصينية مشروع اللوائح التنظيمية للتعليق العام، ومن المرجح أن يتم تبنيه.
وتم الكشف عن النص تزامنا مع إعلان العديد من شركات التكنولوجيا الصينية مثل "بايدو" و"علي بابا" و"جاي دي.كوم" و"بيت دانس" (الشركة الأم لتيك توك) في الأسابيع الأخيرة أنها تعمل على نماذج روبوت محادثة خاص بها على أمل تكرار نجاح "تشات جي بي تي" الأميركي.
أعلنت الصين عن خطط طموحة لتصبح رائدة على مستوى العالم في قطاع الذكاء الاصطناعي بحلول عام 2030، وتقدّر شركة الاستشارات ماكينزي أن هذا القطاع يمكن أن يساهم بحلول ذلك بنحو 600 مليار دولار في الناتج المحلي الإجمالي كل عام.
تشديد القيود وكبح التقدم
ورحبت مايكروسوفت و(آي.بي.إم) بأحدث إجراء اتخذه مشرعو الاتحاد الأوروبي لكنهما تريدان مزيدا من التنقيح للمشروع المقترح.
وقال متحدث باسم مايكروسوفت "نعتقد بأن الذكاء الصناعي يتطلب حواجز تشريعية وجهودا دولية وإجراءات تطوعية من الشركات التي تطوره وتنشره".
وأعلن رئيس شركة أوبن إيه آي OpenAI سام ألتمان معارضته فرض قيود صارمة على الفور من شأنها أن تعيق التطور السريع لتكنولوجيا الذكاء الاصطناعي، لكنه شدد على الحاجة إلى رقابة مؤسسية على المدى الطويل.
قال ألتمان الذي طورت شركته روبوت المحادثة تشات جي بي تي ChatGPT للمشرعين الأميركيين الشهر الماضي أن التدخل الحكومي ضروري لتنظيم القطاع ودرء مخاطر الذكاء الاصطناعي.
وفي تصريحات في جامعة تل أبيب، شدد ألتمان على أن دعوته للرقابة لا تستهدف "أنظمة اليوم". وقال "أعتقد أنه سيكون من الخطأ أن نضع قواعد صارمة الآن أو محاولة إبطاء الابتكار المذهل".
وقال إنه يدرك خطورة وجود "ذكاء خارق غير منظم"، قائلاً إنه "شيء قد نضطر إلى مواجهته في العقد القادم، وهو ليس وقتًا طويلاً بالنسبة لمؤسسات العالم للتكيف مع شيء ما".
وكرر اقتراح OpenAI بتشكيل "منظمة عالمية" معنية "بقوة وتقنيات الكمبيوتر ... يمكن أن يكون لها إطار عمل لترخيص النماذج ومراجعة سلامتها واقتراح الاختبارات المطلوب اجتيازها".
وقال ألتمان في إشارة إلى الوكالة الدولية للطاقة الذرية "ستكون هذه طريقة للتعامل مع هذا على أنه خطر جسيم للغاية. نفعل الشيء نفسه بالنسبة للطاقة النووية على سبيل المثال".
تندرج زيارة رجل الأعمال الأميركي إلى إسرائيل ضمن جولته العالمية للقاء القادة وأصحاب النفوذ وكذلك المواهب المحلية والتعرف على تطبيقات الذكاء الاصطناعي.
طُرح روبوت ChatGPT في أواخر العام الماضي وأظهر القدرة على إنشاء المقالات والقصائد والمحادثات بسهولة. وأثار النجاح الكبير للبرنامج اندفاعًا كبيرًا لضخ مليارات الدولارات في هذا المجال، لكن النقاد حذروا من احتمال أن تغمر روبوتات الدردشة الويب بالمعلومات المضللة أو أن تلحق الأتمتة التي تعمل بالذكاء الاصطناعي الضرر بقطاعات صناعية بأكملها.
في لقاء مع الرئيس الإسرائيلي إسحق هرتسوغ، أشار ألتمان إلى "الضرورة الملحة ... لمعرفة كيفية التخفيف من هذه المخاطر الضخمة". وقال "الكل يريد معرفة ذلك".
في غضون ذلك، قال رئيس الوزراء بنيامين نتانياهو إن التمان أخبره في مكالمة هاتفية أن إسرائيل "يمكن أن تصبح لاعبا عالميا رئيسيا في مجال" الذكاء الاصطناعي.
في بيان، قال نتانياهو إن بلاده التي لديها بالفعل صناعة مزدهرة للتكنولوجيا الفائقة، يجب أن "تصوغ سياسة وطنية" للذكاء الاصطناعي.
مايكروسوفت وميتا وغوغل
واكتشف العالم بذهول في الأشهر الأخيرة قدرات هذه التكنولوجيا التي لا تزال قيد التطوير، مع أدواتها وبرمجياتها القادرة على التعلم بسرعة فائقة لتحسين أداءها.
وتهيمن على هذا القطاع شركات الإنترنت الأميركية العملاقة مثل مايكروسوفت، المساهم الرئيسي في شركة "أوبن إيه آي"، الشركة المشغلة لبرنامج تشات جي بي تي، وميتا وغوغل.
غير أن هذا القطاع في تطور سريع ولا سيما مع المنصات المفتوحة المصدر القادرة على المنافسة لا بل الارتقاء إلى الصدارة بصورة سريعة جدا في مجال هذه التكنولوجيا.
وأثنت "جمعية صناعة الكمبيوتر والاتصالات"، وهي مجموعة ضغط في هذا القطاع تضم أمازون وآبل وميتا وغوغل وتويتر، على "التزام عابر للأطلسي متزايد وطليعي، وخصوصا في وقت يواصل الاتحاد الأوروبي مشروعه الطموح للتنظيم الرقمي الذي سينظم السوق للسنوات المقبلة".
وبانتظار الإطار الإلزامي، تطرح بروكسل بدعم شركات إنترنت عملاقة مثل غوغل، تنظيمات طوعية.
كذلك وضعت الصين مشاريع تنظيمية ولا سيما برنامج "كشف أمني" على أدوات الذكاء الاصطناعي.
أما من الجانب الأميركي، فليس هناك أي مشروع آني مطروح رغم خوض واشنطن الكثير من المحادثات.
ويكيبيديا الذكاء الاصطناعي
بدوره قال جريج بروكمان رئيس شركة أوبن إيه.آي إن الشركة التي ابتكرت تشات جي.بي.تي تستكشف نهجا لجمع مدخلات واسعة حول القرارات التي تؤثر على ذكائها الاصطناعي.
وفي منتدى إيه.آي فوروارد في سان فرانسيسكو الذي تستضيفه جولدمان ساكس وإس.في أنجيل ناقش بروكمان الخطوط العريضة حول كيفية سعي صانع روبوت الدردشة ذائع الصيت إلى تنظيم الذكاء الاصطناعي على مستوى العالم.
ومن بين الأفكار التي طرحها نموذج يشبه ويكيبيديا الذي قال إنه يتطلب قيام أشخاص من ذوي وجهات نظر متنوعة بالاتفاق على مدخلات الموسوعة.
وقال عن سياسة الذكاء الاصطناعي "نحن لا نجلس فحسب في وادي السيليكون ونفكر في أنه يمكننا وضع هذه القواعد للجميع... بدأنا نفكر في عملية ديمقراطية لصنع القرار".
التأثير على الانتخابات
قال سام ألتمان الرئيس التنفيذي لشركة أوبن إيه.آي الناشئة، التي كانت وراء إصدار روبوت الدردشة (تشات جي.بي.تي)، أمام لجنة بمجلس الشيوخ إن استخدام الذكاء الصناعي للتدخل في نزاهة الانتخابات "مبعث قلق كبير"، مضيفا أن الأمر يحتاج إلى تنظيم.
وأضاف "أنا قلق من هذا الأمر"، مشيرا إلى ضرورة وضع قواعد وإرشادات توجيهية.
وتتسابق الشركات العملاقة والصغيرة منذ شهور على استخدام الذكاء الصناعي وخصصت من أجل ذلك بيانات لا حصر لها ومليارات الدولارات بينما يخشى منتقدون من أن تؤدي هذه التكنولوجيا إلى تفاقم الأضرار على المجتمع.
وقال السناتور كوري بوكر، وهو واحد من عدد كبير من المشرعين ممن لديهم تساؤلات عن أفضل السبل لضبط الذكاء الصناعي، "لا توجد طريقة لحبس هذا المارد في قنينة. هذا بمثابة انفجار على مستوى العالم".
وأشارت السناتور مازي هيرونو إلى خطر التضليل مع اقتراب انتخابات 2024 قائلة "في سياق الانتخابات، على سبيل المثال، رأيت صورة الرئيس السابق (دونالد) ترامب أثناء إلقاء شرطة نيويورك القبض عليه، وانتشرت هذه الصورة على نطاق واسع". وألحت هيرونو على ألتمان توضيح ما إن كان يعتبر مثل الصورة المزيفة ضارة.
أجاب ألتمان أن على معدي مثل هذه الصور بقنية الذكاء الصناعي التوليدي توضيح توقيت صنعها لا أن ينشروها كما لو أنها واقعية.
وفي حديثه أمام الكونجرس لأول مرة، قال ألتمان إنه ينبغي للولايات المتحدة النظر بشكل عام في متطلبات الترخيص والاختبار لتطوير نماذج الذكاء الصناعي.
وسُئل ألتمان عن رأيه في نوع الذكاء الصناعي الذي يجب أن يخضع للترخيص، فقال إنه النموذج الذي بوسعه التوجيه لقناعة محددة أو التلاعب بمعتقدات الأفراد.
وأضاف أنه يجب أيضا أن يكون للشركات الحق في قول إنها لا تريد استخدام بياناتها في التدريب على الذكاء الصناعي، وهي إحدى الأفكار التي يجري مناقشتها حاليا في الكونجرس.