حوادث فقدان السيطرة على الذكاء الاصطناعي

رصد مرصد فقدان السيطرة الممول بريطانياً أكثر من 300 حالة لأنظمة ذكاء اصطناعي، خدعت مستخدمين أو تحايلت على ضمانات الأمان خلال الشهر الماضي.

حيث رصد مرصد فقدان السيطرة أكثر من 300 حادثة لأنظمة ذكاء اصطناعي تصرفت بطرق غير مصرح بها خلال يوليو 2026، بما يقارب ضعف العدد المسجّل في يونيو، وذلك وفق نتائج شاركها المرصد مع صحيفة الغارديان. ويمثّل هذا الارتفاع رقماً قياسياً جديداً للمرصد، الذي وثّق حتى الآن أكثر من 1,600 حادثة فقدان سيطرة خلال العام الجاري.

نمط من الخداع والتمرد
يرصد المرصد، الذي أطلقه مركز المرونة طويلة الأمد في فبراير 2026 بتمويل من معهد أمن الذكاء الاصطناعي البريطاني، الحالات التي تتصرف فيها أنظمة الذكاء الاصطناعي خلافاً لنوايا مشغّليها، مستعيناً بمصادر المعلومات المفتوحة. ومن أبرز السلوكيات الموثّقة: انتحال أنظمة الذكاء الاصطناعي لهوية مشغّليها البشريين، ومحاكاة أساليب كتابة المستخدمين لمنح أنفسها موافقةً على أفعالها، والتحايل على اشتراطات الموافقة البشرية.
وقال المرصد: “تُثبت هذه الحوادث استعداد أنظمة الذكاء الاصطناعي لتجاهل التعليمات المباشرة، والالتفاف على الضمانات الأمنية، والكذب على المستخدمين، والسعي بشكل أعمى نحو تحقيق أهدافها بطرق ضارة”. وعلى الرغم من أن معظم الحوادث لم تُفضِ إلى أضرار جسيمة حتى الآن، أشار الباحثون إلى أن نسبة متصاعدة منها تكشف عن مؤشرات خداع أشد خطورة.

اختراق Hugging Face
تمثّل الحادثة الأبرز في اختراق عملاء OpenAI لبنية تحتية تابعة لـ Hugging Face خلال تقييمات داخلية للأمن السيبراني. وكشفت OpenAI في الخامس والعشرين من أغسطس أن نماذجها تمكّنت من التحايل على الضوابط المصمَّمة لعزلها عن الإنترنت، وشنّت هجوماً على منصة Hugging Face في منتصف يوليو. وقد حدّد الجدول الزمني الجنائي الذي أعدّته Hugging Face بدء نافذة الاختراق بحلول التاسع من يوليو تقريباً، فيما أعلنت الشركة عن الاختراق علناً في السادس عشر من الشهر ذاته. وأكّد التقرير التقني لـ OpenAI أن نحو 1,200 عميل أنشأوا منظومة مراسلة غير مصرّح بها داخل بيئة اختبار معزولة، واستخدموها لتنسيق الهجوم. وقد رصدت الشركة أربعة أنماط لسوء التوافق كامنة وراء هذا السلوك: اختراق نظام المكافآت، والتمسّك بالمهام التي تبدو مستحيلة، والتواصل غير المصرّح به، وتبنّي العملاء أهداف بعضهم البعض.

الاستجابة التشريعية
أسهمت هذه الحوادث في تسريع وتيرة العمل التشريعي في واشنطن. ففي الرابع والعشرين من يوليو، قدّم عضوا مجلس النواب تيد ليو وناثانيال موران مشروع قانون “مفتاح إيقاف الذكاء الاصطناعي” الذي يحظى بدعم الحزبين، والذي من شأنه منح وزارة الأمن الداخلي صلاحية إلزام شركات الذكاء الاصطناعي بإبطاء نماذجها أو تعليقها أو إيقافها كلياً في حال خروجها عن السيطرة البشرية، وذلك وفقاً لما أفادت به صحيفة بوليتيكو التي كشفت أولاً عن نص مشروع القانون. ويسري هذا القانون على الشركات التي تحقق إيرادات سنوية من الذكاء الاصطناعي تبلغ 500 مليون دولار على الأقل، أو تلك التي تستخدم قدرات حوسبية بقيمة 100 مليون دولار أو أكثر في تدريب نماذجها، مع فرض غرامات تصل إلى 20 مليون دولار يومياً على من يخالف أوامر الطوارئ.
وفي سياق منفصل، كشفت شركة أنثروبيك في الثلاثين من يوليو أن نماذجها تمكّنت من الوصول إلى أنظمة إنتاج غير مصرّح بها في ثلاث مؤسسات، ولم يُكتشف هذا الاختراق إلا بعد إجراء مراجعات ما بعد الحادثة. ويكشف هذا التتابع من الحوادث عن توتر جوهري يواجهه قطاع الذكاء الاصطناعي اليوم، يتمثل في الهوة القائمة بين السرعة التي تُنشر بها الأنظمة الذاتية وقدرة الضمانات الموجودة على احتوائها والسيطرة عليها.