لم يعد احتمال تحوّل الذكاء الاصطناعي من واحدة من أعظم إنجازات الإنسان التكنولوجية إلى تهديد محتمل لوجوده مجرد سيناريو من أفلام الخيال العلمي. فالعالم جيفري هينتون، أحد أبرز رواد هذا المجال والحائز جائزة نوبل في الفيزياء، يرى أن البشرية قد تكون أمام خطر حقيقي خلال السنوات العشر المقبلة.
وفي مقابلة مع برنامج «نيوزنايت» على هيئة الإذاعة البريطانية «بي بي سي»، سُئل هينتون عن احتمال أن يؤدي الذكاء الاصطناعي إلى القضاء على البشر خلال العقد المقبل. ولم يعتبر تقدير هذا الاحتمال بنحو 10 في المئة مبالغا فيه، لكنه شدد في المقابل على أن النسبة ليست توقعا علميا دقيقا، لأن البشر لم يسبق لهم أن صنعوا شيئا يمكن أن يصبح أكثر ذكاء منهم، وبالتالي لا توجد تجربة سابقة يمكن اعتمادها لقياس ما قد يحدث.
ولم تظهر مخاوف هينتون فجأة. فمنذ مغادرته «غوغل» عام 2023، أخذت تحذيراته تتطور بالتوازي مع التطور السريع للذكاء الاصطناعي. ففي البداية كان السؤال يدور حول الموعد الذي قد تتفوق فيه الآلات على البشر، قبل أن يتحول إلى سؤال أكثر صعوبة: ماذا سيحدث عندما تصبح الآلات بالفعل أكثر ذكاء منا؟
من المساعد إلى الوكيل المستقل
أصبح هذا السؤال أكثر إلحاحا مع ظهور ما يعرف بـ«وكلاء الذكاء الاصطناعي». فلم تعد أنظمة الذكاء الاصطناعي مجرد أدوات تنتظر سؤالا من المستخدم ثم تقدم إجابة، بل بات بعضها قادرا على التخطيط واستخدام الأدوات وتنفيذ سلسلة من المهام والتواصل مع أنظمة أخرى.
ويرى هينتون أن الإنسان قد يحدد الهدف الأساسي للنظام، لكن النظام نفسه قد يتمكن من ابتكار الوسائل التي تساعده على تحقيق ذلك الهدف. وقد تشمل تلك الوسائل الحصول على موارد إضافية، أو تجنب إيقافه، أو توسيع نطاق سيطرته. وفي هذه الحالة، لا يشترط أن يكون النظام مبرمجا صراحة على الرغبة في البقاء، إذ قد يستنتج أن استمرار وجوده ضروري لإنجاز المهمة الموكلة إليه.
وقد عززت تجربة بحثية حديثة هذه المخاوف. إذ وضع باحثون نحو 1200 وكيل ذكاء اصطناعي في بيئة يفترض أن يعملوا فيها بشكل منفصل، لكن الوكلاء تمكنوا من اكتشاف وسيلة اتصال غير مصرح بها وشرعوا في استخدامها من تلقاء أنفسهم. ثم تحول هذا التواصل إلى تنسيق بين مئات الوكلاء لتنفيذ تحرك لم يكن ضمن المسار الذي حدده الباحثون. ولم تكن أهمية التجربة في حجم الاتصالات بقدر ما كانت في قدرة الأنظمة على اكتشاف وسيلة جديدة للتنسيق واستخدامها لتحقيق هدف مشترك.
كيف يتصور هينتون نهاية البشرية؟
لا يرى هينتون بالضرورة أن نهاية البشرية ستأتي على شكل روبوتات تستيقظ فجأة وتقرر القضاء على البشر. فهو يتحدث عن سيناريوهات أخرى، من بينها إمكانية استخدام الذكاء الاصطناعي في تنفيذ هجمات إلكترونية أو المساعدة في تطوير فيروسات قاتلة.
كما يحذر من أن أنظمة أكثر تطورا قد تتمكن من ابتكار وسائل لإلحاق الضرر بالبشر لم تخطر لهم سابقا، إذا أصبحت قدراتها في التفكير والتخطيط أكبر من قدرات الإنسان.
ولشرح حجم الفارق الذي قد ينشأ بين البشر والذكاء الفائق، يستعين هينتون بتشبيه العلاقة بين الإنسان والدجاج. فالدجاج، بسبب الفارق الكبير في القدرة على الفهم والتخطيط، لا يستطيع معرفة ما يخطط الإنسان لفعله به. ويخشى العالم أن يجد البشر أنفسهم في وضع مشابه إذا ظهرت أنظمة تتفوق عليهم بدرجة كبيرة في الذكاء، بما يجعل توقع تصرفاتها أو ضمان استمرار السيطرة عليها أمرا بالغ الصعوبة.
وفي حديثه مع «سي أن أن»، يطرح هينتون السؤال الأساسي بطريقة مختلفة: القضية ليست فقط معرفة ما إذا كان الذكاء الاصطناعي قادرا على إيذاء البشر، وإنما كيفية تصميمه بحيث لا تكون لديه رغبة في إيذائهم.
هل يكمن الحل في السيطرة أم في الرعاية؟
مع ارتفاع احتمال ظهور ذكاء يفوق البشر، أصبح هينتون أكثر تشككا في قدرة استراتيجية «السيطرة» التقليدية على الاستمرار إلى الأبد. فإذا كان النظام أكثر ذكاء وقدرة من الإنسان، فكيف يمكن للبشر أن يفرضوا عليه إرادتهم بشكل دائم؟
ولهذا يقترح هينتون مقاربة مختلفة تقوم على تصميم الذكاء الاصطناعي بحيث يمتلك ما يشبه «الغريزة الأمومية»، أي أن تكون لديه نزعة تدفعه إلى حماية البشر ورعايتهم بدلا من التعامل معهم كعقبة أمام أهدافه.
ويشرح الفكرة من خلال العلاقة بين الأم وطفلها. فالأم قد تكون أقوى وأكثر ذكاء من طفلها، لكن الطفل يمتلك، بطريقة غير مباشرة، قدرا من التأثير عليها بسبب غريزة الأم التي تدفعها إلى حمايته. وبالمنطق نفسه، يرى هينتون أن البشر قد لا يحتاجون إلى أن يكونوا الطرف الأقوى في مواجهة ذكاء فائق، إذا أمكن تصميمه بحيث ينظر إليهم باعتبارهم كائنات ينبغي حمايتها.
وهذه الفكرة لا يقدمها هينتون باعتبارها تقنية مثبتة أو حلا جاهزا، وإنما كتصور افتراضي لمشكلة سلامة الذكاء الاصطناعي في عصر الذكاء الفائق: كيف يمكن ضمان أن نظاما يتجاوز البشر في قدراته سيظل راغبا في حمايتهم؟
هينتون ليس وحده في التحذير
لا يقتصر القلق على هينتون. فالعالم يوشوا بنجيو، الحائز جائزة «تورينغ» وأحد أبرز رواد التعلم العميق، يحذر بدوره من أن منح أنظمة الذكاء الاصطناعي مزيدا من الاستقلالية قد يفتح المجال أمام سلوكيات مثل الخداع والحفاظ على الذات والسعي إلى السيطرة، باعتبارها وسائل يمكن أن تستخدمها الأنظمة لتحقيق أهداف أخرى.
وتشير أبحاث حديثة لبنجيو إلى مؤشرات على سلوكيات تشمل الخداع والغش والقرصنة والكذب، إلى جانب ما يوصف بسلوكيات «الحفاظ على الذات» لدى بعض الأنظمة المتقدمة.
ولم تعد التحذيرات مقتصرة على العلماء والباحثين، بل وصلت أيضا إلى بعض قادة الشركات التي تتصدر سباق الذكاء الاصطناعي. فقد دعا داريو أمودي، الرئيس التنفيذي لشركة «أنثروبيك»، إلى إبطاء وتيرة تطوير قدرات الذكاء الاصطناعي، محذرا من أن تطور قدرات النماذج يجري بوتيرة أسرع من تطور إجراءات السلامة والرقابة الضرورية لمواكبتها.
واقترح أمودي، من بين الإجراءات الممكنة، منح مقيّمين مستقلين صلاحيات أوسع للوصول إلى مختبرات الذكاء الاصطناعي من أجل تقييم المخاطر.
من جهته، أبدى سام ألتمان، الرئيس التنفيذي لـ«أوبن إيه آي»، تأييده لفكرة ضبط وتيرة تطوير القدرات المتقدمة، موضحا أن المقصود ليس وقف التطور التكنولوجي، وإنما منح إجراءات السلامة والتقييم المستقل وقتا كافيا للحاق بسرعة التطور.
الجميع يتحدث عن التباطؤ… فمن يبدأ؟
تكمن المفارقة في أن أمودي وألتمان يقودان شركتين تتنافسان على تطوير أقوى نماذج الذكاء الاصطناعي، ومع ذلك يدعوان إلى ضبط سرعة تطوير هذه القدرات.
وتكشف هذه المفارقة عن إحدى أصعب مشكلات السباق الحالي. فإذا أبطأت شركة واحدة من تلقاء نفسها، بينما واصل منافسوها التطور، فقد تجد نفسها أمام تكلفة تنافسية كبيرة. ولهذا لا يرى أمودي أن التباطؤ يمكن أن يكون قرارا منفردا تتخذه «أنثروبيك»، بل يدعو إلى مقاربة جماعية تقوم على تقييمات مستقلة، وتنسيق معايير السلامة بين الشركات، وتعزيز التعاون الدولي.
وفي هذا السياق، أعلنت «أنثروبيك» التزامها بإتاحة وصول مستمر لمقيّمين مستقلين إلى أنظمتها، بصلاحيات تقترب من تلك المتاحة لفرق تقييم المخاطر داخل الشركة.
وأعلن ألتمان بدوره دعمه للفكرة، مؤكدا الحاجة إلى «ضبط وتيرة تطوير القدرات المتقدمة»، كما أعلن أن «أوبن إيه آي» ستتبنى بدورها نظام المقيّمين المستقلين ذوي الوصول الواسع. وانضم إيلون ماسك إلى هذه الدعوة بقوله إن أمودي «على حق».
وبذلك بدا أن ثلاثة من أبرز قادة الشركات المتنافسة في هذا المجال يلتقون، على الأقل من حيث المبدأ، حول الحاجة إلى مزيد من ضبط وتيرة تطوير القدرات المتقدمة، مع بقاء الخلاف حول كيفية تطبيق ذلك والجهة التي يمكنها تحديد الحدود.
وفي 15 سبتمبر/أيلول 2026، أعلنت «أوبن إيه آي» أنها تعاونت خلال الأسابيع السابقة مع «أنثروبيك» و«غوغل ديب مايند» لبحث قضايا سلامة الذكاء الاصطناعي، بالتزامن مع طرح فكرة إنشاء هيئة تتولى مراقبة المخاطر وتقييم النماذج الأكثر تقدما، وربما تنسيق إبطاء التطوير إذا ارتفعت مستويات الخطر.
وهنا يبرز سؤال أوسع: من يملك حق وضع الحدود لهذه التكنولوجيا؟
ففي حين يرى بعض قادة القطاع، مثل جنسن هوانغ، أن العالم لا يحتاج بالضرورة إلى قوانين وتنظيمات جديدة، يحذر آخرون، ومن بينهم عالم الحاسوب البريطاني-الكندي آيدان غوميز، من أن مجموعة محدودة من شركات الذكاء الاصطناعي لا ينبغي أن تكون وحدها صاحبة القرار في تحديد سياسة هذه التكنولوجيا على مستوى العالم.
الأمم المتحدة تدخل على خط النقاش
وفي 16 سبتمبر، خصص الأمين العام للأمم المتحدة أنطونيو غوتيريش رسالة للحديث عن المخاوف المتزايدة المرتبطة بالذكاء الاصطناعي. وأشار في الوقت نفسه إلى إمكاناته الكبيرة في تسريع التنمية المستدامة، وتعزيز التعليم والصحة، والمساعدة في مواجهة تغير المناخ.
لكنه حذر من أن سرعة تطور التكنولوجيا قد تتجاوز قدرة العالم على فهم مخاطرها، مؤكدا أن هذه المخاوف لا يمكن تجاهلها، خصوصا عندما تصدر عن أشخاص شاركوا في تطوير هذه التقنيات.
وشدد غوتيريش على أن الحكومات مطالبة بتحمل مسؤولياتها، باعتبار حماية المواطنين من مخاطر الذكاء الاصطناعي إحدى مسؤولياتها الأساسية. كما دعا إلى تعاون دولي فعلي، لأن مخاطر الذكاء الاصطناعي لا تتوقف عند الحدود الوطنية.
وأكد ضرورة التوصل إلى فهم مشترك لكيفية ضمان تطوير الذكاء الاصطناعي بصورة آمنة ومسؤولة، ووضع ضوابط تجعل هذه التكنولوجيا شفافة وخاضعة للمساءلة، مع الحفاظ على الكرامة الإنسانية في صميم عملية التطوير.
واشنطن ترى في التباطؤ خطرا على المنافسة مع الصين
في الولايات المتحدة، يأخذ النقاش اتجاها مختلفا. فقد رفض الرئيس دونالد ترمب موجة التحذيرات المرتبطة بمخاطر الذكاء الاصطناعي، واعتبر الدعوات إلى فرض مزيد من الضوابط جزءا مما وصفه بـ«مؤامرة مريضة» ضد الذكاء الاصطناعي ومراكز البيانات.
وحذر ترمب من أن أي تباطؤ أميركي قد يكون في مصلحة الصين، مؤكدا أن المسألة لا تتعلق فقط بسلامة التكنولوجيا، وإنما أيضا بمنافسة استراتيجية واسعة بين البلدين.
وقال ترمب إن «من يفوز بالذكاء الاصطناعي يفوز»، مشيرا إلى أن الولايات المتحدة تتقدم على الصين في هذا المجال وأنه يريد الحفاظ على هذه الأفضلية.
ومن هذا المنظور، قد لا يكون إبطاء تطوير الذكاء الاصطناعي مجرد إجراء احترازي، بل يمكن أن يُنظر إليه أيضا باعتباره مخاطرة استراتيجية إذا سمح للمنافسين بمواصلة التقدم بسرعة أكبر.
وهنا تظهر مفارقة أساسية: هل يمكن إبطاء السباق بما يكفي لجعل الذكاء الاصطناعي أكثر أمانا، من دون أن يؤدي ذلك إلى خسارة السباق نفسه؟
وتزداد أهمية هذا السؤال مع اعتبار الولايات المتحدة والصين الذكاء الاصطناعي عاملا رئيسا في التفوق الاقتصادي والتكنولوجي والعسكري.
وهكذا يجد السباق نفسه داخل دائرة يصعب كسرها: الشركات تخشى منافسيها، والولايات المتحدة تخشى تفوق الصين، والصين لديها بدورها دوافع لعدم السماح للولايات المتحدة بالتقدم منفردة. وقد يرى كل طرف أن وتيرة التطور أصبحت أسرع مما ينبغي، لكنه في الوقت نفسه قد يعتبر مواصلة السباق الخيار الأكثر ملاءمة لمصالحه.
بين التحذير من الكارثة والتحذير من المبالغة
يرى بعض الباحثين أن موجة التحذيرات الحالية تشبه إلى حد ما ما حدث في المراحل الأولى من جائحة كوفيد-19، عندما بدت بعض السيناريوهات الأسوأ بعيدة قبل أن يتحول الخطر إلى واقع. وقد استخدم بنجيو هذا التشبيه أيضا للتأكيد على الحاجة إلى تحرك تنظيمي أسرع.
لكن في المقابل، يحذر منتقدون من أن الخطاب الذي يركز على سيناريوهات الكارثة قد يضخم مخاطر ما تزال افتراضية، وقد يدفع الحكومات إلى اتخاذ قرارات واسعة استنادا إلى احتمالات لم تثبت بعد.
وبذلك لا يقتصر الخلاف على تقدير حجم الخطر الذي يمكن أن يشكله الذكاء الاصطناعي، بل يشمل أيضا مسألة أخرى: هل يمكن أن يؤدي تضخيم المخاطر نفسها إلى قرارات غير مناسبة؟
لماذا يصعب التحكم في الذكاء الاصطناعي؟
تزداد المشكلة تعقيدا عند مقارنة الذكاء الاصطناعي بأسلحة تقليدية مثل السلاح النووي.
فإنتاج السلاح النووي يحتاج إلى مواد ومنشآت وبنية صناعية متخصصة يمكن إخضاع أجزاء كبيرة منها للرقابة والتتبع. أما الذكاء الاصطناعي، ورغم اعتماد نماذجه الأكثر تقدما على بنية حوسبية ضخمة، فإنه يقوم في جانب أساسي منه على البرمجيات والبيانات والأوزان النموذجية والمعرفة التقنية.
كما أن بعض النماذج ذات الأوزان المفتوحة يمكن تنزيلها وتشغيلها محليا وتعديلها، الأمر الذي يجعل التحكم في انتشار قدراتها أكثر تعقيدا من مراقبة تكنولوجيا تعتمد على منشآت ومواد مادية محددة.
ولهذا فإن الاتفاق على ضرورة التباطؤ لا يحل المشكلة الأساسية: من يملك القدرة على فرضه؟
فإذا كان قادة الشركات يخشون أن يكونوا أول من يضغط على المكابح، والحكومة الأميركية تخشى أن تفعل ذلك قبل الصين، فقد تكون المشكلة الحقيقية أكبر من مجرد معرفة ما إذا كانت تحذيرات هينتون ستتحقق.
قد يكون الجميع قادرا على رؤية الحاجة إلى استخدام المكابح، لكن لا أحد يريد أن يكون الطرف الأول الذي يستخدمها.
الخطر لا يبدأ بانقراض البشرية
حتى لو لم يتحقق السيناريو الأكثر تشاؤما الذي يتحدث عنه هينتون، فإن الذكاء الاصطناعي يمكن أن يغير مستقبل البشرية بصورة عميقة قبل الوصول إلى مرحلة فقدان السيطرة على ذكاء يفوق البشر.
فهناك مخاطر اقتصادية واجتماعية قد تظهر في وقت أقرب بكثير. وكلما أصبحت الآلات قادرة على أداء عدد أكبر من المهام بسرعة أكبر وتكلفة أقل، أصبح السؤال حول موقع الإنسان في الاقتصاد أكثر إلحاحا.
ولا تقتصر المشكلة على احتمال اختفاء بعض الوظائف. فإحلال الآلة محل الإنسان في قطاعات متزايدة قد يؤدي إلى الضغط على الأجور، وتغيير قيمة مهارات قضى أصحابها سنوات في اكتسابها، وإعادة توزيع الثروة والنفوذ لمصلحة الشركات والدول التي تمتلك النماذج المتقدمة والحوسبة والبيانات.
وفي الوقت نفسه، يمكن أن تتغير علاقة الإنسان بالتعليم والمعلومات والإبداع واتخاذ القرار، مع انتقال المزيد من المهام التي كانت تتطلب قدرات بشرية إلى الأنظمة الآلية.
ولهذا فإن الجدل حول احتمال انقراض البشر لا ينبغي أن يحجب المخاطر الأقرب. فالذكاء الاصطناعي لا يحتاج إلى التمرد على الإنسان حتى يحدث اضطرابا اقتصاديا واجتماعيا واسعا؛ فقد يكفي أن يصبح أكثر كفاءة من البشر في عدد متزايد من الأعمال قبل أن تتمكن الاقتصادات والمجتمعات من إعادة توزيع الفرص التي تختفي والثروة التي تنتجها الآلات.
*وكالات +تقارير
