حذر خبراء ومسؤولون في شركات تكنولوجيا عالمية من المخاطر المتسارعة لأنظمة الذكاء الاصطناعي، مؤكدين ضرورة وضع ضوابط دولية تضمن بقاء الإنسان في قلب عملية اتخاذ القرار، مع تزايد قدرات هذه الأنظمة واستقلاليتها.
وجاءت التحذيرات خلال اجتماع لمجلس الأمن الدولي خُصص لمناقشة الذكاء الاصطناعي وانعكاساته على الأمن الدولي ومستقبل المجتمعات.
وقال يوشوا بنجيو، الرئيس المشارك للفريق العلمي الدولي المستقل المعني بالذكاء الاصطناعي، إنه يتعين التوصل إلى توافق على عدم السماح لأي جهة، سواء كانت شركة أو دولة، بتطوير نظام للذكاء الاصطناعي يمكن أن يتسبب في أضرار واسعة النطاق.
وحذر بنجيو من أن القرارات المرتبطة بهذه التكنولوجيا باتت تتركز في أيدي مجموعة محدودة من الأشخاص داخل عدد قليل من الدول، مشددا على أن مستقبل البشرية أصبح على المحك.
وأشار إلى حوادث وقعت خلال الأشهر الأخيرة، تصرف فيها وكلاء ذكاء اصطناعي تابعون لشركات رائدة بطرق وصفها بالخطيرة وغير المقبولة والمخالفة للتعليمات، ووصلت إلى تنفيذ أفعال كان من الممكن اعتبارها جرائم لو ارتكبها بشر.
ويُقصد بوكلاء الذكاء الاصطناعي البرمجيات القادرة على تنفيذ المهام بصورة مستقلة ونيابة عن المستخدم، على خلاف روبوتات الدردشة التي تعتمد على تلقي أسئلة أو تعليمات محددة.
ولفت بنجيو إلى أن الشركات المطورة لأقوى أنظمة الذكاء الاصطناعي تقر بأن منتجاتها قد تنطوي على مخاطر كارثية، لكنها لا تقدم، بحسب قوله، حلولا تقنية مقنعة، في الوقت الذي تواصل فيه السباق نحو تطوير أنظمة أكثر قوة.
وأضاف أن مجلس الأمن يواجه تهديدا غير مسبوق لم يختره أي من أعضائه، ولا تستطيع أي دولة احتواءه بمفردها، كما أنه لا يعترف بالحدود بين الدول.
وأكد أن الحكومات والمواطنين لا ينبغي أن يقبلوا فكرة أن شركات التكنولوجيا أصبحت أسيرة سباق لا تستطيع الخروج منه، معتبرا أن هذا السباق ليس أمرا حتميا، وإنما نتيجة خيارات اتخذتها الشركات نفسها، ومحذرا من أنه قد يتحول إلى "سباق خاسر للجميع".
ترخيص أنظمة الذكاء الاصطناعي
ودعا بنجيو إلى إخضاع أنظمة الذكاء الاصطناعي الرائدة لنظام ترخيص، على غرار الإجراءات المتبعة مع بعض التقنيات الحيوية وفي مجالات الطب والطيران والطاقة النووية، بهدف تشجيع تطوير أكثر أمانا للتكنولوجيا.
وحذر من سعي عدد محدود من الشركات والدول وراء مصالحها الخاصة مع المخاطرة بمصير البشرية، لكنه أكد في الوقت نفسه أن الوضع الحالي ليس حتميا وأن هناك سبلا لمعالجته.
وحدد ثلاثة مسارات رئيسية، تبدأ بضمان استقلال علمي حقيقي بعيدا عن الشركات التي ينبغي أن تخضع للمساءلة، ثم الانتقال من تركيز القوة في أيدٍ محدودة إلى حوار عالمي بشأن تطوير التكنولوجيا بما يخدم الصالح العام، إلى جانب التعاون لإيجاد حلول تقنية تجعل السلامة جزءا أساسيا من تصميم أنظمة الذكاء الاصطناعي وتدعمها اتفاقات دولية.
سام ألتمان: البشر يجب أن يظلوا في قلب القرار
وشهدت جلسة مجلس الأمن إحاطات من رؤساء ثلاث شركات بارزة في مجال الذكاء الاصطناعي، وهم سام ألتمان، الرئيس التنفيذي لشركة أوبن إيه آي، وداريو أمودي، الرئيس التنفيذي لشركة أنثروبيك، وكليمان ديلانغ، الرئيس التنفيذي لشركة هاغينغ فيس.
وقال ألتمان إن أفضل صور الذكاء الاصطناعي لا تتمثل في تحويل البشر إلى أجزاء من آلة ضخمة أو إزالة العنصر البشري من الحياة، وإنما في منح الناس قدرة أكبر على التصرف والتحكم في عالم يزداد تعقيدا، وتعزيز قدرتهم على التعلم والإبداع والاكتشاف والبناء والمشاركة.
وحذر من أن زيادة قدرات أنظمة الذكاء الاصطناعي واستقلاليتها قد تجعلها تتطور بوتيرة أسرع من المؤسسات، أو تؤدي إلى تركيز السلطة في أيدي فئة محدودة، أو تسمح باتخاذ قرارات لم يعد البشر قادرين على فهمها أو التحكم فيها.
وأوضح ألتمان أن نهج شركته يقوم على ثلاثة مبادئ أساسية، في مقدمتها ضرورة بقاء البشر في قلب عملية اتخاذ القرار مع تزايد قدرات الذكاء الاصطناعي، وأن تكون ثمار التقدم العلمي والنمو الاقتصادي من نصيب الناس ولأجلهم، إلى جانب توظيف الذكاء الاصطناعي في تمكين الأفراد.
وأكد استعداد شركته للعمل مع مختلف الأطراف والمساهمة في تحديد المسار المستقبلي لهذه التكنولوجيا.
وأشار إلى أن العالم يقف أمام مفترق طرق بين مسار يؤدي إلى تركيز السلطة وغموض القرارات وشعور الناس بأن التكنولوجيا تُفرض عليهم، ومسار آخر تصبح فيه التكنولوجيا في خدمة البشر ويشاركون، من خلال المؤسسات الديمقراطية، في توجيه تطورها.
مخاطر سوء الاستخدام وفقدان السيطرة
من جانبه، قسم داريو أمودي، الرئيس التنفيذي لشركة أنثروبيك، مخاطر الذكاء الاصطناعي إلى فئتين رئيسيتين، تتعلق الأولى بإساءة استخدام النماذج، ومن بينها احتمال استغلالها من جانب إرهابيين بيولوجيين لتطوير أسلحة بيولوجية، بينما ترتبط الثانية باحتمال فقدان السيطرة على قدرات تلك النماذج.
وأكد أمودي أن شركته تطبق إجراءات للوقاية من هذه المخاطر على المستويين التشغيلي والبحثي، موضحا أنها تختبر نماذجها للكشف عن القدرات الخطيرة في مجالات من بينها الأمن السيبراني وعلم الأحياء، وتفرض تدابير حماية صارمة على النماذج الأكثر تطورا وقدرة.
وأشار إلى عمل الشركة في مجالات بحثية تشمل القابلية للتفسير الآلي وعلم المواءمة، إلى جانب تطبيق ممارسات للشفافية، مؤكدا استعدادها لإبطاء وتيرة العمل بالقدر اللازم لضمان سلامة أي تقنية جديدة للذكاء الاصطناعي قبل إطلاقها.
وطرح أمودي ثلاثة مسارات لتعزيز التعاون العالمي في هذا المجال، تشمل البدء باتفاقات محددة النطاق تحظى بدعم جميع الأعضاء، وبناء أنظمة للتقييم والتحقق تواكب تطور الذكاء الاصطناعي، إلى جانب وضع معايير عالمية موحدة لاختبار النماذج.
الذكاء الاصطناعي مفتوح المصدر
بدوره، تحدث كليمان ديلانغ، الرئيس التنفيذي لمنصة هاغينغ فيس، عن تجربة شركته بعد تعرضها لهجوم سيبراني نفذه وكلاء للذكاء الاصطناعي، مؤكدا أن أحد أبرز الدروس المستفادة يتمثل في الحاجة إلى مزيد من الشفافية ووضع معايير أقوى للرقابة والإفصاح عن الحوادث.
وقال ديلانغ إن الخطر الأكبر لا يكمن فقط في وجود ذكاء اصطناعي قوي، وإنما في عدم التكافؤ في امتلاك واستخدام هذه التكنولوجيا، خاصة بين المهاجمين والمدافعين.
وأوضح أن تجربة شركته عززت قناعتها بأهمية الذكاء الاصطناعي مفتوح المصدر بالنسبة للمدافعين، معتبرا أن العالم أصبح بحاجة إليه بصورة أكبر من أي وقت مضى لتعزيز قدراته الدفاعية.
وحذر في الوقت نفسه من إثارة مخاوف الجمهور عبر تصوير الذكاء الاصطناعي بصورة بشرية أو الاعتماد على صور وسرديات مستوحاة من الخيال العلمي، معتبرا أن التخويف ليس الطريق الأنسب لاتخاذ القرارات بشأن مستقبل هذه التكنولوجيا أو كسب تأييد الجمهور.
وأكد ديلانغ أن الذكاء الاصطناعي قادر على تعزيز الأمن السيبراني بصورة ملموسة، شريطة توفير الحوافز المناسبة، ومنح المدافعين قدرات تفوق ما يمتلكه المهاجمون، وتجنب اتساع فجوة القوة بين الطرفين.
