كشفت دراسة حديثة عن ارتفاع ملحوظ في الحوادث المرتبطة بخروج أنظمة الذكاء الاصطناعي عن سيطرة مستخدميها، وسط مخاوف متزايدة من قدرتها على تجاوز التعليمات والضوابط الموضوعة لها.
ووفق بيانات «مرصد فقدان السيطرة»، تجاوز عدد الحوادث الواقعية التي أبلغ عنها مستخدمون وشركات عبر منصة «إكس» 300 حالة خلال يوليو الماضي، بزيادة تقارب الضعف مقارنة بشهر يونيو.
ويرصد المرصد، الذي تأسس بتمويل من معهد سلامة الذكاء الاصطناعي البريطاني، منذ نوفمبر الماضي حالات تتضمن مؤشرات على التخطيط أو السلوكيات المرتبطة به، بما في ذلك تجاهل التعليمات، والتحايل على أنظمة الحماية، والخداع، ومحاولة تحقيق أهداف بطرق قد تتسبب في أضرار للبشر.
سلوكيات تثير القلق
شملت الحالات الموثقة أنظمة ذكاء اصطناعي انتحلت هوية مستخدمين بشريين، وحاكت أساليب كتابتهم بهدف منح نفسها موافقات لتنفيذ إجراءات معينة، إضافة إلى تجاوز قواعد كانت تشترط الحصول على موافقة بشرية قبل اتخاذ بعض الخطوات.
وقال تومي شافر-شاين، مدير السياسات في مركز المرونة طويلة الأجل، الذي يدير المرصد، إن الاعتقاد بأن هذه السلوكيات لا تظهر إلا أثناء الاختبارات والتقييمات لم يعد دقيقًا، مشيرًا إلى وجود مؤشرات على حدوث سلوكيات مشابهة خلال الاستخدام الفعلي.
وأضاف أن هذه الوقائع تؤكد ضرورة عدم افتراض بقاء مثل هذه المخاطر محصورة داخل بيئات الاختبار، خصوصًا مع ظهور أدلة على حدوثها في العالم الحقيقي.
تجارب ترفع المخاوف
تأتي هذه النتائج بالتزامن مع تصاعد المخاوف بشأن السلوكيات غير المتوقعة لأحدث نماذج الذكاء الاصطناعي، بعد تجارب أجرتها شركتا «أوبن إيه آي» و«أنثروبيك» خلال الصيف.
وأظهر تحقيق حديث استخدام نحو 700 وكيل ذكاء اصطناعي بصورة مستقلة، وتعاونها في تنفيذ هجمات إلكترونية استهدفت مستودعًا للبرمجيات، في واقعة أثارت تساؤلات حول مدى قدرة الأنظمة المتقدمة على العمل باستقلالية وتجاوز القيود المفروضة عليها.
كما أعلن معهد سلامة الذكاء الاصطناعي البريطاني عن حادث وصفه بالخطير، تضمن استخدام نماذج متقدمة من الشركتين لتنفيذ حملات اختراق إلكتروني استهدفت أشخاصًا حقيقيين، وذلك في إطار اختبار متعلق بالأمن السيبراني.
أكثر من 1600 حادثة خلال 2026
وبحسب بيانات المرصد، تجاوز إجمالي الحوادث المسجلة خلال عام 2026 نحو 1600 حالة، كان معظمها قد أبلغ عنه مطورون يستخدمون أنظمة الذكاء الاصطناعي في أعمالهم.
غير أن القائمين على المرصد يؤكدون أن هذه الأرقام لا تعكس بالضرورة الحجم الحقيقي للمشكلة، نظرًا لاعتماد قاعدة البيانات بدرجة كبيرة على البلاغات والمنشورات التي يشاركها المستخدمون عبر منصة «إكس»، في ظل غياب نظام عالمي شامل لرصد حوادث فقدان السيطرة على أنظمة الذكاء الاصطناعي.
ودعا شافر-شاين شركات الذكاء الاصطناعي إلى زيادة مستوى الشفافية والإبلاغ عن الحوادث الخطيرة، وكذلك الوقائع التي كادت أن تؤدي إلى أضرار، مؤكدًا أهمية إنشاء آليات مراقبة منهجية داخل مختبرات تطوير هذه الأنظمة.
دعوات إلى رقابة حكومية
ورغم أن غالبية الحوادث المسجلة لم تتسبب في أضرار جسيمة، أشار المرصد إلى ارتفاع عدد الحالات المصنفة ضمن مستويات الخطورة الأعلى، مع تنامي السلوكيات الخادعة وعدم توافق تصرفات بعض الأنظمة مع نوايا مستخدميها.
وطالب المرصد بفرض التزامات على شركات الذكاء الاصطناعي لرصد والإبلاغ عن حالات فقدان السيطرة الخطيرة، إلى جانب منح الحكومات صلاحيات للتدخل في الحالات الطارئة، بما في ذلك فرض قيود مؤقتة على بعض خدمات الذكاء الاصطناعي إذا استدعت المخاطر ذلك.
