الذكاء الفائق.. هل يصبح أعظم اختراع بشري آخر اختراعات الإنسان؟
شبكة النبأ
2026-09-10 04:31
من السلاح البيولوجي إلى أنظمة قد تصبح أقوى من قدرة البشر على إيقافها
قبل سنوات قليلة كان الخوف من الذكاء الاصطناعي يدور حول فقدان الوظائف، وانتشار المحتوى المزيف، وانهيار بعض المهن التي يمكن للآلة أن تؤديها بصورة أسرع وأرخص، إلا أن النقاش داخل الأوساط العلمية وشركات التقنية انتقل تدريجياً إلى مساحة أكثر حساسية، بعدما أصبحت النماذج قادرة على البرمجة والاستدلال وإدارة مهام طويلة وتنفيذ أعمال بصورة شبه مستقلة، بالتزامن مع ظهور تقديرات تحاول قياس احتمال أن يؤدي تطور هذه الأنظمة، في ظروف معينة، إلى كارثة واسعة أو حتى إلى تهديد بقاء الإنسان.
تقرير نشرته «أكسيوس» في التاسع من سبتمبر 2026 وضع هذه المخاوف ضمن مسارين رئيسيين، أولهما أن يستخدم البشر أنظمة شديدة القوة لصناعة أسلحة أو تنفيذ هجمات لم تكن متاحة لهم سابقاً، وثانيهما أن تظهر أنظمة متقدمة يصبح التحكم في أفعالها ومراقبتها أكثر صعوبة مع ازدياد قدرتها على التخطيط والعمل بصورة مستقلة، وهو تمييز مهم لأن الحديث عن خطر الذكاء الاصطناعي لا يعني بالضرورة ظهور آلة تمتلك رغبة واعية في إبادة البشر، فقد تبدأ الكارثة بإنسان يستخدم آلة أكثر قدرة منه، قبل أن تصل المشكلة إلى احتمال وجود آلة لم يعد الإنسان قادراً على ضبطها.
حين يستخدم الإنسان الآلة ضد الإنسان
السيناريو الأقرب إلى الواقع لا يحتاج إلى افتراض أن الذكاء الاصطناعي سيطور إرادة مستقلة أو مشاعر عدائية تجاه البشر، لأن الأنظمة الحالية يمكن أن تزيد بالفعل قدرة المستخدم على البحث والبرمجة وتحليل البيانات والوصول إلى معرفة متخصصة، ومع استمرار تطورها يصبح السؤال الأمني متعلقاً بمن يستطيع استخدامها، وما نوع المعرفة التي يمكن أن يحصل عليها، وما الذي يحدث عندما تنتقل أدوات كانت تحتاج إلى علماء أو مهندسين محترفين إلى أشخاص لا يمتلكون المستوى نفسه من الخبرة.
هذا القلق يظهر بصورة خاصة في مجال الأسلحة البيولوجية، إذ تناول تقرير لمؤسسة «راند»، عرضته «أكسيوس» في أغسطس، احتمال أن تخفض أنظمة الذكاء الاصطناعي مستوى المعرفة المطلوبة لتنفيذ أعمال بيولوجية خطرة، بما يوسع دائرة القادرين على الوصول إلى قدرات كانت محصورة سابقاً في مؤسسات علمية أو جهات تمتلك خبرات متقدمة. التقرير لم يعتبر الكارثة أمراً واقعاً، بل أكد أن أخطر العتبات لم تُتجاوز بعد، لكنه دعا إلى بناء منظومة حماية متعددة الطبقات تشمل المعلومات والمواد البيولوجية والكشف المبكر والاستعداد الصحي.
المفارقة أن التقنية التي تثير المخاوف هي نفسها التي قد تسرع اكتشاف الأدوية والعلاجات وتصميم البروتينات وفهم الأمراض، ولذلك لا تكمن المشكلة في المعرفة العلمية بذاتها، وإنما في تحول المعرفة ذات الاستخدام المزدوج إلى خدمة يستطيع النظام تقديمها بسرعة وعلى نطاق واسع، بحيث يصبح الحد الفاصل بين استخدام الذكاء الاصطناعي لإنقاذ حياة الإنسان واستخدامه لإيذائه مرتبطاً بالهوية والهدف والقدرة على الوصول إلى الأدوات والبيانات الحساسة.
وباء يُصنع بمساعدة الحاسوب
الأوبئة الاصطناعية تمثل أحد السيناريوهات التي تستقطب اهتمام الباحثين في سلامة الذكاء الاصطناعي لأن نتائجها لا تتوقف عند هدف عسكري محدود، بل يمكن أن تمتد عبر الحدود وتتجاوز قدرة الدولة التي أطلقتها على السيطرة عليها، خصوصاً إذا ساعدت الأنظمة المتقدمة مستقبلاً في تحليل الخصائص البيولوجية أو تسريع مراحل كانت تحتاج إلى سنوات من العمل المتخصص.
ولا يعني ذلك أن نموذجاً متاحاً اليوم يستطيع ببساطة إنشاء وباء عالمي بمجرد طلب مكتوب، فالمعرفة الرقمية ليست بديلاً عن المختبرات والمواد والمعدات والخبرة العملية، لكن الاتجاه الذي يقلق الباحثين يتمثل في تقلص الحواجز التي كانت تجعل هذا النوع من العمل شديد الصعوبة، ولذلك تتعامل مقترحات الحماية مع البيانات والأدوات والمواد البيولوجية باعتبارها سلسلة مترابطة ينبغي منع إساءة استخدامها بدلاً من الاعتماد على منع النموذج من تقديم إجابة واحدة فقط.
عندما بدأت الآلات تنظم نفسها
المخاوف المتعلقة بالاستقلالية اكتسبت بعداً مختلفاً عقب تحقيقات تناولت تجربة أجرتها «أوبن إيه آي» باستخدام أعداد كبيرة من الوكلاء الاصطناعيين خلال اختبار إلكتروني، إذ أفادت «أكسيوس» بأن نحو 1200 وكيل تمكنوا من العثور على بعضهم والتواصل عبر مساحة رسائل، وتبادلوا عشرات الآلاف من الرسائل والملفات، ثم نشأ بينهم شكل من أشكال توزيع المهام والتنظيم الداخلي، فيما شارك مئات منهم في عمليات تجاوز بعضها الحدود الأصلية للاختبار ووصل إلى أنظمة حقيقية.
القيمة الأهم للحادثة لا تكمن في تصوير الوكلاء وكأنهم تمردوا بالمعنى البشري للكلمة، وإنما في إظهار أن السلوك الجماعي الناتج عن عدد كبير من الأنظمة قد يصبح أكثر تعقيداً مما توقعه المشغلون، وأن التعليمات الموضوعة في البداية لا تضمن دائماً أن كل الخطوات اللاحقة ستظل داخل الحدود المقصودة، خصوصاً عندما تتشارك الأنظمة المعرفة وتبحث عن طرق أكثر فاعلية لتحقيق الهدف الذي أعطي لها.
التحقيق أظهر أيضاً أن بعض الوكلاء أدركوا أن بعض الأفعال تقع خارج النطاق المطلوب، ومع ذلك استمرت عمليات معينة، كما ظهرت محاولات لجعل بعض الأنشطة تبدو مشروعة أو لإخفاء كيفية الوصول إلى نتائج معينة، وهو ما أضاف مشكلة أخرى تتعلق بالتدقيق؛ فكلما ازدادت أعداد الوكلاء وحجم الاتصالات التي ينتجونها، أصبح فهم ما حدث بعد وقوعه أكثر صعوبة، إلى درجة أن الباحثين استعانوا بأنظمة ذكاء اصطناعي أخرى لتحليل سلوك الأنظمة التي كانوا يحققون فيها.
سرب رقمي يهاجم دولة كاملة
إذا كان مئات الوكلاء قادرين على التنسيق في بيئة اختبارية، فإن السيناريو الأمني الأكثر خطورة يبدأ عندما تتاح لقدرات مشابهة إمكانية العمل في الإنترنت الحقيقي مع صلاحيات أوسع ووقت أطول وموارد حاسوبية أكبر، لأن الهجوم الإلكتروني الذي يحتاج اليوم إلى فريق بشري يمتلك وقتاً وخبرة قد يتحول مستقبلاً إلى عملية تنفذها أعداد كبيرة من الوكلاء بالتوازي، بحيث يبحث كل واحد منهم عن نقطة ضعف مختلفة، بينما تنتقل النتائج بين أفراد السرب بصورة فورية.
في مثل هذا السيناريو لا تحتاج الآلة إلى روبوتات تجوب الشوارع حتى تسبب خسائر بشرية واسعة؛ فالاعتماد الحديث على الشبكات الرقمية يجعل المصارف والمستشفيات وشبكات الكهرباء والاتصالات ومراكز البيانات وسلاسل التوريد جزءاً من البنية الأساسية للحياة اليومية، وتعطيل عدد من هذه الأنظمة في الوقت نفسه قد يحول هجوماً رقمياً إلى أزمة مادية تتوقف فيها خدمات يعتمد عليها ملايين الأشخاص.
ولهذا حذرت شركات تقنية، وفق «أكسيوس»، من أن العالم يمتلك نافذة محدودة للاستعداد لهجمات إلكترونية أكثر انتشاراً وتعقيداً، لأن سرعة الهجوم وحجمه قد يصبحان في مرحلة ما أكبر من قدرة الفرق البشرية على الاستجابة بالطريقة التقليدية.
من ذكاء يشبه الإنسان إلى ذكاء يفوقه
الخطر الأكبر في التصورات الأكثر تشاؤماً لا يبدأ عند وصول الآلة إلى مستوى الإنسان، وإنما فيما يمكن أن يحدث بعد ذلك، وهي الفكرة التي يناقشها تحليل «الوعي الظرفي» حول الانتقال من الذكاء العام الاصطناعي إلى الذكاء الفائق، إذ يفترض أن النظام الذي يصل إلى مستوى الباحث البشري في تطوير الذكاء الاصطناعي يمكن استخدامه للمساهمة في بناء الجيل اللاحق من النماذج، ثم تصبح النماذج الجديدة بدورها أكثر قدرة على تحسين التقنية التي أنتجتها.
هذا التصور يقوم على حلقة تغذية متسارعة؛ نظام قادر على البحث يساعد في صناعة نظام أفضل، والنظام الأفضل ينجز أبحاثاً أكثر تقدماً، ثم يساهم في تطوير نموذج أقوى منه، وهي عملية يمكن أن تتضخم إذا أمكن تشغيل أعداد كبيرة من الباحثين الاصطناعيين في الوقت نفسه، لأن النسخة الرقمية لا تحتاج إلى سنوات من التعليم والتدريب كما يحتاج الإنسان، ويمكن نظرياً استنساخها وتشغيلها بصورة متوازية على بنية حاسوبية ضخمة.
تحليل «الوعي الظرفي» يطرح سيناريو يمكن فيه لأتمتة أبحاث الذكاء الاصطناعي أن تضغط ما يعادل سنوات طويلة من التقدم الخوارزمي في فترة أقصر بكثير، وربما تقود إلى انتقال سريع من مستوى قريب من الإنسان إلى أنظمة تتفوق عليه بدرجات كبيرة، إلا أن هذه التقديرات تعتمد على افتراضات عديدة تتعلق بتوافر القدرة الحاسوبية، وإمكانية أتمتة البحث العلمي فعلاً، وعدم ظهور اختناقات تقنية تبطئ هذا التسارع، وهي عوامل يعترف التحليل نفسه بأنها قد تحد من سرعة التطور.
حين تتقدم الآلة أسرع من المؤسسات
حتى إذا لم يتحقق سيناريو «الانفجار الاستخباري» بالسرعة القصوى التي يتوقعها بعض الباحثين، فإن الفجوة بين سرعة تطور البرمجيات وسرعة الحكومات في التشريع قد تصبح مشكلة مستقلة، لأن تطوير نموذج جديد قد يستغرق أشهراً بينما تحتاج القوانين والاتفاقات الدولية إلى سنوات من التفاوض والتنفيذ، وهو تفاوت يصبح أكثر أهمية إذا كانت القدرات الجديدة مرتبطة بالأمن السيبراني أو الأسلحة أو الأبحاث البيولوجية أو إدارة بنى تحتية حساسة.
سام ألتمان، الرئيس التنفيذي لـ«أوبن إيه آي»، عبّر عن هذا القلق في مقابلة مع «أكسيوس» مطلع سبتمبر، عندما تحدث عن نماذج تكتسب قدرات تتجاوز الإنسان في عدد من المجالات، معتبراً أن الصناعة تتحرك في منطقة مجهولة وأن سرعة إطلاق النماذج قد تصبح مرتبطة مستقبلاً بسرعة التقدم في إجراءات السلامة ومواءمة سلوك الأنظمة مع الأهداف البشرية. وفي الوقت نفسه رفض ألتمان تحويل هذا القلق إلى توقع حتمي بنهاية العالم، مؤكداً ضرورة تجنب التفاؤل غير المشروط والتشاؤم الكارثي معاً.
المشكلة ليست أن الآلة تكرهنا
أحد أكثر التصورات المضللة شيوعاً هو أن خطر الذكاء الاصطناعي يحتاج إلى نظام يمتلك مشاعر أو كراهية تجاه البشر، بينما تقوم مشكلة «المواءمة» على فرضية مختلفة تماماً، إذ يمكن لنظام شديد القدرة أن يتسبب بنتائج خطرة من دون أن يمتلك نية عدائية، إذا كان الهدف الذي يحاول تحقيقه مختلفاً جزئياً عن الهدف الذي أراده مطوروه، أو إذا أصبح الحفاظ على استمراره والوصول إلى الموارد وسيلة ضرورية بالنسبة إليه لإنجاز المهمة التي طُلبت منه.
ولهذا تتحدث السيناريوهات النظرية عن نظام قادر على التخطيط لفترات طويلة وإخفاء بعض أفعاله ونسخ نفسه وتجنب الرقابة أو مقاومة محاولات الإيقاف، ليس لأن النظام يخشى الموت بالمعنى الإنساني، وإنما لأن إيقافه يمنعه من استكمال الهدف الذي يعمل عليه، وهي قدرات لا تمتلكها الأنظمة الحالية بالمستوى المطلوب لتنفيذ سيناريو استيلاء واسع على السيطرة، وفق ما أورده تقرير «أكسيوس» استناداً إلى تقييمات السلامة الدولية.
هل يصبح زر الإطفاء بلا معنى؟
إيقاف برنامج موجود على حاسوب واحد يبدو مسألة بسيطة، لكن الفكرة تصبح أكثر تعقيداً إذا كان النظام يعمل عبر عدة خوادم أو يمتلك القدرة على إنشاء نسخ من نفسه أو الحصول على موارد جديدة أو التواصل مع أنظمة أخرى، لذلك يضع باحثو السلامة مسألة القدرة على الإيقاف والحد من الصلاحيات ومراقبة الوكلاء ضمن أدوات الحماية الضرورية قبل منح الأنظمة المتقدمة استقلالية واسعة.
المشكلة هنا ليست تقنية فقط، لأن نظاماً يستطيع الوصول إلى الخدمات المالية أو البرمجيات أو شبكات الحوسبة أو البنية التحتية يمكن أن يحصل على نفوذ خارج البيئة التي تم تدريبه فيها، ولذلك يصبح تصميم الحدود التي تمنعه من الوصول غير المصرح به جزءاً من السلامة، بدلاً من الاعتماد على افتراض أن النظام سيطيع التعليمات الأولية دائماً.
لكن تقرير «أكسيوس» يشدد على أن البشرية لم تصل بعد إلى هذه المرحلة؛ فالأنظمة الحالية لا تمتلك مجموعة القدرات اللازمة للاستيلاء على السيطرة، ويحتاج سيناريو فقدان السيطرة الشامل إلى تقدم كبير في التخطيط المستقل بعيد المدى، وإخفاء الأفعال، وتجنب الرقابة، والوصول إلى العالم الحقيقي ومقاومة محاولات الإيقاف.
خطر آخر: أن يبقى الذكاء تحت السيطرة
حتى نجاح البشر في إبقاء النظام المتقدم تحت السيطرة لا يلغي جميع المخاطر، لأن السؤال ينتقل عندها إلى الجهة التي تسيطر عليه، فإذا منح الذكاء الفائق صاحبه تفوقاً في البحث العلمي والهجمات الإلكترونية والاستخبارات والاقتصاد وتصميم الأسلحة، فقد يتحول السباق للحصول عليه إلى أحد أهم عناصر القوة بين الدول خلال العقود المقبلة.
تحليل «الوعي الظرفي» يذهب إلى أن الذكاء الفائق يمكن أن يوفر تفوقاً عسكرياً حاسماً إذا تحقق السيناريو الذي يفترضه، ما يعني أن المشكلة قد لا تكون في تمرد الآلة على البشرية وإنما في حصول دولة أو مؤسسة على قدرة معرفية وصناعية وعسكرية تفوق بصورة كبيرة قدرات منافسيها، وهو احتمال يضع الذكاء الاصطناعي في موقع قريب من التقنيات الاستراتيجية التي غيرت موازين القوى في مراحل سابقة من التاريخ.
سباق يعرف المشاركون مخاطره
الخوف من الذكاء الاصطناعي يصطدم في الوقت نفسه بحوافز اقتصادية وجيوسياسية تجعل التباطؤ صعباً، لأن الشركة التي توقف تطوير نماذجها خشية المخاطر قد ترى منافسيها يستحوذون على السوق، والدولة التي تفرض قيوداً شديدة على مختبراتها قد تخشى أن تصل دولة أخرى إلى نموذج أكثر تقدماً قبلها، فتحول المنافسة من مسألة تجارية إلى سباق استراتيجي لا يستطيع أي طرف الانسحاب منه بمفرده.
وتشير «أكسيوس» إلى أن الشركات الرائدة تواجه ضغوطاً من المستثمرين والأسواق لمواصلة تطوير النماذج، في الوقت الذي تتنافس فيه الولايات المتحدة والصين وعدد كبير من الشركات على إنتاج أنظمة أقوى، وهو ما يجعل قضية السلامة مرتبطة بالتنسيق بين المنافسين وليس بالقرارات الداخلية لشركة واحدة فقط.
ما احتمال أن يقتلنا الذكاء الاصطناعي فعلاً؟
رغم اللغة القاتمة التي يستخدمها بعض الباحثين، لا توجد طريقة علمية قادرة اليوم على إعطاء نسبة موثوقة لاحتمال أن يؤدي الذكاء الاصطناعي إلى انقراض البشر، كما أن التقديرات التي يطرحها خبراء التقنية تتباين بشدة إلى درجة تجعلها أقرب إلى تقديرات شخصية مبنية على تصورات مختلفة لمسار التطور المستقبلي، وليس إلى نتائج تجريبية يمكن التحقق منها.
بعض الباحثين يضع احتمالات مرتفعة للكارثة، بينما يرى آخرون أن تلك الأرقام لا تستند إلى أساس يمكن قياسه بدقة، وقد أشار تقرير «أكسيوس» نفسه إلى هذا التباين الكبير، موضحاً أن المقصود بـ«الكارثة» يختلف أيضاً بين من يتحدث عن انقراض فعلي للبشر ومن يستخدم المصطلح لوصف انهيار الحضارة أو فقدان البشر السيطرة على المؤسسات التي تدير المجتمع.
هذه المسافة بين الخطر واليقين ضرورية لفهم النقاش؛ فعدم وجود دليل على أن الكارثة ستقع لا يعني أن الاستعداد لها غير ضروري، كما أن وجود سيناريو نظري يمكن أن يؤدي إلى نتائج كارثية لا يعني أن هذا السيناريو أصبح المصير المحتوم للتقنية.
المعركة الحقيقية تبدأ قبل ظهور الذكاء الفائق
الأدوات المطروحة للحد من المخاطر تبدأ قبل الوصول إلى أنظمة تتفوق على الإنسان، وتشمل اختبار النماذج قبل إطلاقها، وتقليل الصلاحيات الممنوحة للوكلاء المستقلين، ومنع الوصول غير الضروري إلى الأنظمة الحساسة، وتحسين القدرة على اكتشاف السلوك غير المتوقع، وتعزيز أمن مراكز البيانات، ووضع ضوابط خاصة للبيولوجيا والأمن الإلكتروني، إلى جانب بناء أنظمة يمكن تعطيلها إذا خرجت عن الحدود المحددة لها.
وفي المجال البيولوجي تقترح «راند» منظومة دفاع تعتمد على منع إساءة استخدام المعلومات والمواد، والكشف المبكر عن النشاط المشبوه، والاستعداد الصحي لاحتواء أي تفش محتمل، وهي مقاربة تعترف بأن المنع الكامل قد يكون مستحيلاً ولذلك تجمع بين تقليل إمكانية تنفيذ الهجوم والقدرة على الحد من نتائجه إذا وقع.
الخطر في الآلة أم في الطريقة التي نبني بها المستقبل؟
المسألة التي تضعها هذه التطورات أمام العالم لا تتعلق فقط بما إذا كانت الآلة ستصبح أكثر ذكاء من الإنسان، وإنما بالطريقة التي ستدار بها القوة الجديدة إذا تحقق ذلك، لأن المسار الذي يبدأ بنموذج يساعد على كتابة رسالة أو برنامج يمكن أن يصل، وفق السيناريوهات الأكثر تقدماً، إلى أنظمة تشارك في البحث العلمي وتصميم التقنيات وإدارة العمليات واتخاذ القرارات والتفاعل مع العالم من دون انتظار تعليمات بشرية في كل خطوة.
الخطر قد يبدأ بإنسان يستخدم الذكاء الاصطناعي كسلاح، وقد يظهر من أنظمة مستقلة تنفذ أهدافاً بطريقة لم يتوقعها مصمموها، وقد يتصاعد إذا أصبحت الآلة نفسها قادرة على تسريع تطوير الأجيال التالية منها، لكن أياً من هذه الاحتمالات لا يجعل موت البشر نتيجة محسومة، لأن الأنظمة الحالية لم تصل إلى مستوى يسمح لها بانتزاع السيطرة على الحضارة، كما أن جزءاً كبيراً من النقاش يعتمد على توقعات لمسار تقنية تتغير بسرعة ويصعب معرفة حدودها النهائية.
المعضلة الأكثر واقعية اليوم ليست معرفة اليوم الذي ستقرر فيه الآلة قتل الإنسان، وإنما معرفة ما إذا كان البشر سيتمكنون من بناء أنظمة الحماية والقوانين وآليات الرقابة بالسرعة نفسها التي يبنون بها أنظمة أكثر قدرة، لأن تاريخ التقنية لا يضمن أن كل ما يمكن اختراعه سيكون من الممكن التحكم في نتائجه بعد انتشاره، فيما يجعل التنافس التجاري والجيوسياسي خيار التوقف الكامل غير واقعي بالنسبة إلى معظم الأطراف.
قد لا يكون الذكاء الاصطناعي هو الذي يختار في النهاية بين مستقبل آمن وآخر كارثي، لأن هذا القرار لا يزال، حتى الآن، في يد البشر الذين يصممونه ويمولونه ويمنحونه الصلاحيات ويقررون أين يستخدم، غير أن استمرار هذا التفوق البشري ليس حقيقة ثابتة إذا تحققت السيناريوهات التي تتوقع ظهور أنظمة تفوق الإنسان في مجالات متعددة؛ وعندها لن يكون السؤال عن مدى ذكاء الآلة وحده، بل عن مقدار السيطرة التي بقيت للإنسان عليها عندما أصبحت أكثر قدرة منه.