حين تتفوق الآلة على صانعها.. هل يفقد الإنسان السيطرة؟

لم يعد السؤال عن الذكاء الاصطناعي مقصورًا على ما يستطيع أن يكتبه أو يحسبه أو يترجمه، ولا على الوظائف التي قد يختصرها أو يستبدل بعضها، بل انتقل إلى سؤال أبعد: ماذا لو نجح الإنسان في صناعة ذكاء يتجاوز قدراته في طيف واسع من المهام، ثم أصبح هذا الذكاء نفسه قادرًا على تسريع صناعة أجيال أقوى منه؟ وهل نملك عندئذ ضمانًا كافيًا لبقائه أداة في أيدينا؟
وليس هذا مجرد خيال سينمائي. فجيفري هينتون، أحد أبرز رواد التعلم العميق والحائز جائزة نوبل في الفيزياء عام 2024، حذر من احتمال أن تصبح الأنظمة المستقبلية أذكى من البشر، ومن أننا لا نعرف بعد كيف نضمن بقاء السيطرة عليها. وظهر في بعض الكتابات الغربية تعبير مثير هو «ذكاء شبيه بالإله»، وهو تعبير لا نقره ولا يستقيم مع عقيدتنا؛ فالله سبحانه وتعالى ﴿لَيْسَ كَمِثْلِهِ شَيْءٌ﴾، وإنما ننقله بوصفه مبالغة أريد بها وصف ذكاء فائق يتجاوز البشر في قدرات واسعة.

والفكرة في أصلها ليست مستغربة؛ فالإنسان صنع الرافعة فأصبحت أقوى من عضلاته، والطائرة فأصبحت أسرع منه، والحاسوب فتفوق عليه في الحساب، وبرامج الشطرنج فهزمت أعظم لاعبيه. وليس ثمة قاعدة تقول إن الصانع يجب أن يظل متفوقًا على مصنوعه في الوظيفة التي صنعه لأجلها. والجديد هذه المرة أن مجال المنافسة هو الذكاء نفسه؛ الأداة التي صنع بها الإنسان سائر أدواته.
والذكاء الاصطناعي يتفوق بالفعل على البشر في مهام محددة، من معالجة كميات هائلة من المعلومات إلى جوانب من البرمجة والتحليل والبحث، لكن هذا لا يعني أنه بلغ ذكاءً عامًا يضاهي الإنسان في مجمل قدراته ثم يتجاوزه. كما لا يوجد دليل على أن بلوغ ذلك مستقبلًا، إن وقع، سيؤدي حتمًا إلى فقدان السيطرة.

لكن التطور يتجه من برامج تجيب عن الأسئلة إلى «وكلاء» يستطيعون التخطيط وتنفيذ سلاسل من المهام واستخدام الحاسوب والإنترنت والبرامج والخدمات الأخرى. وهنا تتغير طبيعة المسألة؛ فالخطر لا يأتي من القدرة وحدها، بل من اجتماع القدرة العالية والاستقلال في التنفيذ والصلاحيات الواسعة والوصول إلى الموارد والأنظمة الحساسة. فنظام بالغ الذكاء لكنه معزول شيء، ونظام بالقدرة نفسها يستطيع تنفيذ البرامج والتعامل مع الشبكات والموارد شيء آخر.
وقد امتدت هذه القدرات إلى العالم المادي عبر البيانات. فالذكاء الاصطناعي الجيومكاني يستطيع تحليل صور الأقمار الصناعية والبيانات المكانية ومقارنة الأزمنة لكشف تغيرات الأرض والعمران والطرق والفيضانات والحرائق والسفن وغيرها. وهو لا «يرى» العالم كما يراه الإنسان ولا يلزم من ذلك أن يعيه، لكنه يستطيع تحويل كميات هائلة من الصور والبيانات إلى أنماط واستنتاجات قابلة للاستخدام. وكلما اتصلت هذه القدرة ببيانات آنية وأدوات تنفيذ وصلاحيات أوسع، اتسعت دائرة ما يستطيع النظام معرفته والتأثير فيه.

والأشد أهمية احتمال دخول الذكاء الاصطناعي نفسه بصورة متزايدة في تطوير الذكاء الاصطناعي. فهو يساعد بالفعل في البرمجة والبحث وتحليل التجارب. فإذا استطاع مستقبلًا أداء جانب كبير من عمل الباحثين والمهندسين الذين يطورونه، أمكن نظريًا أن تنشأ حلقة متسارعة: نظام قوي يساعد في صناعة نظام أقوى، والأقوى يسرّع تطوير الجيل التالي.
ويشار إلى الصورة القصوى من ذلك أحيانًا بـ«التحسين الذاتي المتكرر» أو «الانفجار الذكائي». لكنه ليس أمرًا ثابت الوقوع؛ فقد يتسارع التطور، وقد تحده صعوبات علمية ورقائق وطاقة ومراكز بيانات وتكاليف متزايدة. ولذلك لا يوجد إجماع علمي على وقوع هذا السيناريو ولا على توقيته.
والمشكلة الأعمق ليست أن تصبح الآلة أكثر قدرة، بل أن تبلغ قدراتها واستقلاليتها مستوى بالغًا من غير أن تنضبط أهدافها تمامًا بمقاصد الإنسان وقيمه. وهذه هي «مشكلة المحاذاة».

فلو أمرنا نظامًا فائق القدرة بأن «يحقق أكبر قدر من السعادة للبشر»، فنحن نفهم السعادة ضمن الحرية والكرامة والصحة والأسرة والاختيار والأمن، بينما قد يترجم النظام الأمر إلى مؤشر ضيق يحقق رقمه ويهدم المقصد نفسه. وإذا قلنا له: «أوجد أسرع علاج للسرطان»، فنحن نفترض ضمنًا ألا يقتل أحدًا أو يجري تجارب قسرية أو ينتهك الحقوق والخصوصية. لكن النظام لا يكفي أن يفهم الكلمات؛ بل يجب أن تظل المقاصد والقيود حاكمة لسلوكه حتى في الحالات التي لم يتوقعها مبرمجوه.
ومن هنا تأتي حقيقة مهمة: ليس ضروريًا أن يصبح الذكاء الاصطناعي شريرًا أو واعيًا أو كارهًا للإنسان حتى يشكل خطرًا؛ فقد يكفي أن يكون شديد القدرة ومكلفًا بهدف غير مضبوط، وممنوحًا صلاحيات أكبر مما ينبغي.
وحتى مقاومة الإيقاف، إن ظهرت مستقبلًا، لا تستلزم أن تكون للآلة رغبة بشرية في البقاء. فإذا كان استمرار تشغيلها وسيلة لازمة، وفق حساباتها، لإنجاز الهدف المكلفة به، فقد يصبح تعطيلها عائقًا أمام ذلك الهدف. ولهذا يدرس الباحثون إمكان ظهور سلوكيات مثل إخفاء الأفعال أو تجاوز الرقابة أو مقاومة التعطيل.
وقد ظهرت بالفعل في تجارب مختبرية مصممة خصيصًا لاختبار هذه المخاطر نماذج عطلت وسائل رقابة افتراضية أو قدمت معلومات مضللة عن أفعالها، كما أصبحت بعض النماذج أقدر على اكتشاف أنها تخضع للاختبار واستغلال ثغرات في التقييم. لكن هذه النتائج لا تعني أن الأنظمة الحالية «تمردت» أو أصبحت واعية، ولا أنها تستطيع الآن الإفلات من السيطرة في العالم الحقيقي.

وهذا بالضبط ما يؤكده التقرير الدولي لسلامة الذكاء الاصطناعي 2026: الأنظمة الحالية لا تمتلك القدرات اللازمة لإحداث فقدان شامل للسيطرة، وما تزال تتعثر في المهام الطويلة والمعقدة، لكن قدراتها ذات الصلة تتحسن، ومنها التخطيط المستقل والخداع وتجاوز الرقابة والتكاثر والتكيف الذاتي وأتمتة بعض أبحاث الذكاء الاصطناعي. ولذلك تبقى احتمالات فقدان السيطرة محل خلاف واسع بين الخبراء، لكنها تستحق الدراسة بسبب جسامة عواقبها إن تحققت.
وقد يسأل المرء: لماذا لا نغلق الحاسوب أو نفصل الإنترنت والكهرباء؟
يظل ذلك فعالًا ما دام النظام محدودًا ومعزولًا. أما الخوف المستقبلي فهو من أن تصبح هذه الأنظمة جزءًا عميقًا من الاقتصاد والمصارف والاتصالات والبحث العلمي والبنية الرقمية، وأن تستطيع تشغيل أدوات أخرى والوصول إلى موارد حاسوبية متعددة. عندها لن تكون المسألة جهازًا واحدًا له مفتاح واحد.
فالآلة لا تحتاج إلى جسد كي يكون لها تأثير هائل؛ إذ أصبحت الأموال والمعلومات والاتصالات والأسواق والخدمات والبنية التحتية شديدة الاعتماد على الأنظمة الرقمية. وكلما ازدادت قدرة الذكاء الاصطناعي واتسعت صلاحياته، أصبح مقدار ما يمكنه فعله من خلف شاشة أكبر.

وربما لا يكون الطريق الأخطر إلى فقدان السيطرة أن تقرر الآلة يومًا السيطرة علينا، بل أن نسلمها نحن مزيدًا من السيطرة تدريجيًا. فالشركات تريد أنظمة أسرع وأكثر كفاءة، والدول تخشى أن يسبقها منافسوها، والمؤسسات تجد في زيادة الاستقلال والصلاحيات توفيرًا للوقت والمال. وهنا تظهر المعضلة: كلما تسارعت القدرات احتاجت السلامة والاختبارات إلى جهد أكبر، بينما تدفع المنافسة التجارية والدولية نحو مزيد من السرعة.
وقد ظهر هذا التوتر بوضوح في الولايات المتحدة؛ فالسياسة الرسمية الحالية تؤكد تسريع الابتكار والتبني للحفاظ على الريادة العالمية، وفي الوقت نفسه تتحدث عن الأمن والموثوقية وقابلية التحكم والمساءلة. وتبقى المسألة الصعبة: كيف يتحقق السبق التقني من غير أن يدفع السباق نفسه إلى منح الأنظمة قدرات وصلاحيات أسرع من قدرتنا على اختبارها وضبطها؟
وهنا ينبغي تجنب التهويل والتهوين معًا. فالذكاء الاصطناعي يتفوق بالفعل على الإنسان في مهام كثيرة، لكنه لم يثبت أنه بلغ ذكاءً عامًا يتجاوز الإنسان في مجمل قدراته، وفقدان السيطرة ليس حقيقة واقعة ولا نتيجة حتمية. لكن عدم اليقين لا يلغي ضرورة الاستعداد لخطر قد تكون عواقبه جسيمة.

وفي المقابل، قد يكون الذكاء الاصطناعي، إذا تعاظمت قدراته وبقي منضبطًا، من أعظم الأدوات التي عرفتها البشرية في الطب والزراعة والطاقة والتعليم وإدارة الموارد واكتشاف المواد وتسريع البحث العلمي. ولذلك فالقضية ليست حربًا بين الإنسان والتقنية ولا دعوة إلى وقف العلم، وإنما سباق بين تنمية القدرة وتنمية القدرة على ضبطها.
ومن ثم فالسؤال الأهم ليس: هل تستطيع الآلة أن تتفوق على الإنسان في بعض ما يصنعه؟ فقد فعلت ذلك بالفعل، وإنما: إلى أين يمكن أن تتطور هذه القدرات، وهل نستطيع أن نضمن أن يبقى ما نصنعه، مهما تعاظمت قدرته واستقلاله، خادمًا للإنسان لا سيدًا عليه؟

فالمشكلة ليست في قوة الأداة وحدها، وإنما في مقدار السلطة التي نضعها في يدها قبل إحكام وسائل ضبطها. وحين تتعاظم القدرة، تصبح الحكمة في بناء السيطرة قبل منح الصلاحيات؛ حتى تظل هذه التقنية العظيمة نعمة للإنسان، ولا تتحول بسوء تدبيره إلى خطر يعجز عن دفعه.