هينتون: احتمال 10% لقيام الذكاء الاصطناعي بقتل البشر

تصريحات الحائز على جائزة نوبل لبرنامج BBC Newsnight جاءت عقب استقالة باحث من شركة Anthropic وتحذيراته من أن شركات الذكاء الاصطناعي “تقامر بحياتنا”.

أخبر عالم الحاسوب الحائز على جائزة نوبل جيفري هينتون برنامج BBC Newsnight يوم الثلاثاء أن احتمال 10% لقيام الذكاء الاصطناعي بقتل جميع البشر خلال العقد القادم “.

يبدو تقديراً معقولاً”، وهو ما أصاب مقدمة البرنامج فيكتوريا ديربيشاير بصدمة واضحة على الهواء مباشرة.
وقال هينتون حين سألته ديربيشاير عما إذا كان هذا الرقم منطقياً: “لم نسبق أن أوجدنا كائنات قد تفوق ذكاءنا قريباً.

لا أحد يعرف ما الذي سيحدث. نسبة 10% تبدو لي تقديراً معقولاً، لكن لا أحد يعرف حقاً كيف يُقدّم تقديراً منطقياً.” وحين أعادت ديربيشاير صياغة كلامه عليه، أجابها بكلمة واحدة:

“نعم.” أما ردّ فعلها — “واو… يا إلهي” — فقد انتشر على الفور عبر الإنترنت.

كيف يمكن للذكاء الاصطناعي أن يُحدث دماراً هائلاً

قال هينتون، الحائز على جائزة نوبل في الفيزياء لعام 2024 عن أعماله في مجال التعلم الآلي، إن الذكاء الاصطناعي المتقدم لن يحتاج إلى السيطرة المادية على العالم لكي يشكّل تهديداً وجودياً.

وأضاف: “سيكون قادراً على إثارة فوضى عارمة من خلال التحدث إلى الناس فحسب، فضلاً عن قدرته على تصميم فيروسات بيولوجية بالغة الخطورة، إلى جانب الفيروسات الإلكترونية، كما يمكنه شنّ هجمات إلكترونية مدمرة.”

ولفت إلى أنه سيكون من “الحماقة الشديدة” افتراض أن احتمال وقوع هذا الخطر لا يتجاوز 1%.

وأيّد ستيوارت راسل، أستاذ في جامعة كاليفورنيا بيركلي، هذه المخاوف، مشيراً في حديثه لـ Business Insider إلى أن الذكاء الاصطناعي أو الجهات الفاعلة التي تستخدمه قد تستهدف البنية التحتية الحيوية، بما فيها شبكات الكهرباء والمياه والنقل والأنظمة المالية.

استقالات أنثروبيك التي أشعلت فتيل الجدل

جاءت مقابلة هينتون في أعقاب سلسلة من الأحداث بدأت في الثامن من سبتمبر، حين استقال جيكوب كوكسون، الباحث السابق في مرحلة التدريب المسبق في كلٍّ من OpenAI وأنثروبيك، وأعلن استقالته على الملأ.

وكتب كوكسون على منصة X: “لا تتصرف أيٌّ من الشركتين بمسؤولية، فهما تتسابقان نحو ذكاء اصطناعي خارق يُحسِّن ذاته، ويقامران بأرواحنا.”

ثم ردّ علناً إيفان هوبينجر، المسؤول عن أبحاث التوافق في أنثروبيك، مؤكداً أن كوكسون “محق”، وأنه يعتقد شخصياً أن احتمال قيام الذكاء الاصطناعي بإبادة البشرية خلال العقد الحالي يتجاوز 10%.

وأضاف هوبينجر: “لا تتوفر لدينا حتى الآن خطة لحل إشكالية التوافق مع الذكاء الاصطناعي الخارق، ولا يبدو أننا في المسار الصحيح للوصول إليها.”

انقسام حاد بين الخبراء

لا يتشارك جميع الباحثين هذا القلق. فقد أخبر غاري ماركوس، الباحث في مجال الذكاء الاصطناعي، موقع Business Insider أنه يرى في الهجمات الإلكترونية والأسلحة البيولوجية والمعلومات المضللة مخاطر جدية، غير أنه لا يعتبر الانقراض نتيجةً واقعية في المدى القريب.

وقال: “ثمة مخاوف بالغة الخطورة ينبغي الانتباه إليها، لكن لا يوجد أي سيناريو واقعي في حدود علمي يمكن أن يؤدي فعلاً إلى ‘إبادة البشر جميعاً’.”

وسبق لـ يان لوكون من أن استهان بمثل هذه التقديرات الاحتمالية، واصفاً إياها بأنها مجرد أحكام انطباعية — وهو توصيف قبله هينتون جزئياً بنفسه، إذ أدلى لشبكة CNN بقوله إن “أي شخص يقدّر احتمالات كهذه لا يعدو كونه يُطلق تخمينات عشوائية”.

وانضم مقدم البرامج في ITV روبرت بيستون إلى هذا النقاش، كاتباً على منصة X: “أنا مندهش قليلاً من كون هذا الأمر لم يستقطب اهتماماً أكبر، بما في ذلك من داخل الحكومة.”