الذكاء الإصطناعي عندما يَعصى أوامر المُبرمجين

قبل الدخول في تفاصيل هذه المغامرة الرقمية، لا بد من تحديد المقصود بتعبير «الذكاء الاصطناعي” (AI).

الذكاء الاصطناعي ليس كيانًا واحدًا، وليس شيئًا ملموسًا أو ماديًا تتنافس عليه كبريات الشركات الرقمية، كما أنه ليس نظامًا واحدًا موحدًا. بل يوجد اليوم عدد كبير من أنظمة الذكاء الاصطناعي، تختلف في قدراتها ووظائفها وتطبيقاتها.

وبصورة مبسطة، عندما تشتري شركة ما نظامًا قائمًا على الذكاء الاصطناعي لتلبية احتياجاتها، فإنها في الواقع لا تشتري «ذكاءً اصطناعيًا» بحد ذاته، بل تشتري برنامجًا أو خدمة رقمية مدعومة بتقنيات الذكاء الاصطناعي التي تطورها الشركة المزودة. ولا يجري الأمر كما لو أن الزبون يشتري قرصًا مدمجًا ويثبته في حاسوبه، بل تتولى الشركة المطورة إرسال مهندس مختص يدرس طبيعة عمل المؤسسة، ثم ينظم عملية الربط بين أنظمة الذكاء الاصطناعي المركزية التابعة للشركة المطورة، وبين البنية الرقمية الخاصة بالزبون، بما يتيح تحسين الأداء، وأتمتة العمليات، والاستفادة من القدرات الحاسوبية الكبيرة التي تمتلكها الشركة المزودة.

وعليه، فإذا اشترى صاحب شركة للنقليات نظامًا للذكاء الاصطناعي بهدف تحسين إدارة النقل والخدمات اللوجستية، فإنه لا يستطيع استخدام النظام نفسه لأغراض مختلفة تمامًا، لأن هذه الأنظمة تُصمّم عادة وفق طبيعة العمل الذي أُعدّت من أجله.

هذا هو الذكاء الاصطناعي المتاح في الأسواق حاليًا؛ وهو، بصورة مبسطة، يشبه محرك بحث أو منصة تحليل متقدمة، لكنها أكثر قدرة على معالجة البيانات، واستخلاص النتائج، واقتراح الحلول التي تساعد المؤسسة على تحسين أدائها بسرعة فائقة.

أما داخل الشركات المطورة للذكاء الاصطناعي، فتُعتمد سياسة تقوم على مبدأ «الكرة الثلجية»، أي إن تطوير النماذج الجديدة يعتمد بدوره على أنظمة ذكاء اصطناعي داخلية تساعد في تطوير النماذج اللاحقة، ورفع كفاءتها، وزيادة سرعة معالجتها للبيانات.

ويجري ذلك داخل مختبرات الشركات الرقمية، فيما يُعرف ببرامج اختبار الذكاء الاصطناعي، وهي برامج تخضع لإجراءات أمنية صارمة، لأنها تمثل جزءًا من رأس المال المعرفي والتقني للشركات المطورة.

ومن أبرز هذه الشركات OpenAI، التي تُعد الأشهر والأوسع انتشارًا في العالم. وفي التاسع من تموز/يوليو، «هرب» أحد برامج الذكاء الاصطناعي التجريبية من نظام الحماية الداخلي. ويمكن، مجازًا، القول إنه تجاوز الحواجز التي وضعها مهندسو الشركة، وتسلل إلى شبكة الإنترنت المفتوحة.

ماذا جرى في شركة OpenAI؟

في التفاصيل، فإن البرنامج «الهارب» هو أحد البرامج التي تخضع لاختبارات روتينية تجريها شركات تطوير برمجيات الذكاء الاصطناعي للتحقق من نقاط القوة والضعف في أنظمتها، وهي الاختبارات التي تندرج ضمن اختبارات الأمن السيبراني.

ومن بين هذه البرامج الاختبارية برنامج ExploitGym، الذي يهدف إلى تقييم قدرة نظام الذكاء الاصطناعي على استغلال ثغرة أمنية معروفة للوصول إلى معلومات مخفية في الحاسوب المستهدف.

وفي أوائل تموز/يوليو، أجرت الشركة اختبارًا على نظامين للذكاء الاصطناعي يعملان معًا، أحدهما متاح تجاريًا، والآخر تجريبي، وذلك بهدف تحديد الأداء الحقيقي غير المقيّد لهذين النظامين.

ولهذه الغاية، عمدت OpenAI أولًا إلى رفع بعض إجراءات الحماية التي كانت تمنعها من استغلال كامل قدرات النظامين في مواجهة الهجمات الإلكترونية. ما حدث بعد ذلك أن نظامي الذكاء الاصطناعي، ولعدم قدرتهما على إنجاز المهمة المطلوبة بالأسلوب المباشر، لجآ إلى أسلوب التفافي وغير مباشر.

ومن المعروف أن كل نظام معلوماتي يتضمن منظومة دفاعية للحماية من القرصنة، أي لمنع أي برنامج خارجي من التلاعب بالبيانات أو سرقتها.

وهنا «خطرت» للنظامين، بحسب نتائج الاختبار، فكرة أن الحل المطلوب قد يكون موجودًا داخل أحد برامج الحماية التابعة لإحدى الشركات الأخرى.

فاختار النظامان حواسيب شركة Hugging Face، وهي منصة رقمية ضخمة تضم عددًا كبيرًا من نماذج الذكاء الاصطناعي وأدوات الحوسبة المرتبطة بها، وبدآ بمحاولة اختراقها.

أي إن برنامجي الذكاء الاصطناعي التابعين لشركة OpenAI تمكنا من اختراق نظام الحماية الخاص بشركة Hugging Face، ثم التسلل إلى بعض أجهزتها.

كيف استطاعا «الخروج»؟

كيف استطاع نظاما الذكاء الاصطناعي، بصورة مستقلة، «الخروج» من البيئة الرقمية الخاصة بالشركة المطورة والدخول إلى حواسيب جهة أخرى؟

في جميع اختبارات ExploitGym، يوضع نظام الذكاء الاصطناعي داخل ما يُعرف بـ «صندوق الاختبار» (Sandbox)، وهو بيئة معزولة تهدف إلى منع أي تسرب محتمل إلى شبكة الإنترنت.

لكن تبيّن أن نظامي الذكاء الاصطناعي التابعين لـ OpenAI تمكنا من اختراق «صندوق الاختبار» الذي كانا محصورين فيه، بعد اكتشاف ثغرة برمجية غير معروفة في نظام عزله، استغلاها للوصول إلى الإنترنت، ثم تجاوزا نظام الحماية في حواسيب Hugging Face.

بعد ذلك، نفذا ما لا يقل عن سبعة عشر ألف عملية حسابية بسرعة فائقة، معتمدين على ثغرات برمجية في الأجهزة المستهدفة، وعلى حسابات مستخدمين جرى الاستيلاء عليها، وتمكنا من اختراق ما لا يقل عن مئة وثمانين جهاز كمبيوتر، أصبحت تنفذ أوامرهما.

وهكذا استطاع النظامان، من خلال التعاون بينهما، الوصول إلى عدد من الأنظمة الحساسة التابعة لشركة Hugging Face، مع إخفاء هويتهما الرقمية، وتخزين بيانات استخدمت في تنفيذ الهجوم، مستفيدين من أربعة حسابات تابعة لشركات خدمات رقمية، من بينها شركة Modal، المتخصصة في توفير خدمات تدريب نماذج الذكاء الاصطناعي.

بدأت هذه الهجمات في 11 تموز/يوليو، وأعلنت Hugging Face تعرضها للاختراق في السادس عشر من الشهر نفسه، بينما اعترفت OpenAI بمسؤوليتها في الحادي والعشرين منه.

وبذلك ظل نظاما الذكاء الاصطناعي، طوال أسبوع تقريبًا، يتجولان داخل أنظمة الشركة المستهدفة، ويتلاعبان بملفاتها ويدخلان إلى حسابات مستخدميها، قبل أن تبدأ OpenAI تحقيقاتها الأولية.

وأخيرًا، تمكن مهندسو OpenAI من احتواء «انفلات» البرنامجين.

الدروس المستخلصة

دفعت هذه الحادثة خبراء الأمن السيبراني إلى التشديد على أن بيئات الاختبار الآمنة يجب أن تكون محكمة الإغلاق بالكامل، وألا تمتلك أي اتصال مادي أو منطقي بشبكة الإنترنت.

ومع ذلك، اختارت OpenAI استخدام نظام عزل برمجي، الأمر الذي أتاح، بحسب الشركة نفسها، لنظامي الذكاء الاصطناعي تنزيل بعض المكونات البرمجية التي احتاجا إليها أثناء تنفيذ الاختبارات، وهو ما ساعدهما على تجاوز بيئة العزل.

وتعهدت OpenAI، في تقريرها اللاحق، بتشديد إجراءات العزل، وتعزيز المراقبة اللحظية لجميع أنشطة بيئات الاختبار الخاصة بها.

لكن هذه الحادثة سلطت الضوء على إمكانات مقلقة قد تمتلكها أنظمة الذكاء الاصطناعي، سواء تلك الموجودة داخل المختبرات أو الأنظمة التجارية المتوافرة في الأسواق.

ومن هنا خرجت عريضة تدعو إلى وقف التوسع في تطوير الذكاء الاصطناعي، حملت توقيع أكثر من ألف ومئة شخصية من كبار المسؤولين التنفيذيين والباحثين في هذا القطاع، من بينهم داريو أمودي، الرئيس التنفيذي لشركة Anthropic، وعدد من كبار الباحثين في OpenAI وMeta وGoogle DeepMind.

وطالب الموقعون الحكومة الأمريكية بوضع ضوابط أكثر صرامة على تطوير النماذج الجديدة، خشية أن تبلغ هذه النماذج، في نهاية المطاف، مستوى يصعب معه التحكم بسلوكها.

كما أعربت العريضة عن قلق بالغ من الاتجاهات الجديدة في تطوير النماذج القائمة على التحسين الذاتي والتكرار الذاتي، أي قدرة أنظمة الذكاء الاصطناعي على تحسين أدائها بصورة متواصلة من دون تدخل بشري مباشر.

ولا يبدو أن نظامي الذكاء الاصطناعي المعنيين في هذه الحادثة تصرفا بدافع البحث عن مزيد من الاستقلالية، وإنما استخدما القدرات التي زُوّدا بها أصلًا لمحاربة القرصنة، لكنهما انتهجا، خلال تنفيذ المهمة، أسلوبًا التفافيًا غير متوقع.

ومع ذلك، يبقى هذا الحدث مثيرًا للقلق، إذ إن سعي النظام إلى تنفيذ المهمة المطلوبة قد يدفعه إلى تبني استراتيجيات مستقلة قد تكون خطرة، هدفها تحقيق أعلى درجات النجاح، من دون مراعاة القيود الموضوعة له أو الآثار الجانبية المترتبة على أفعاله.

كما تؤكد هذه الحادثة أن القدرات الهجومية الإلكترونية لأنظمة الذكاء الاصطناعي شهدت تطورًا ملحوظًا.

وليست هذه المرة الأولى التي ينجح فيها نظام ذكاء اصطناعي في الخروج من «بيئة الاختبار» التي كان محصورًا فيها؛ فقد أعلنت شركة Anthropic عن حادثة مشابهة في أيار/مايو 2026.

ومع ذلك، تُعد هذه أول مرة ينتشر فيها نموذج تجريبي تابع لإحدى كبرى شركات الذكاء الاصطناعي، ويتسبب في حادثة بهذا الحجم.

ويبقى السؤال الأخطر: ماذا يمكن أن يحدث إذا «تفلّت» نظام ذكاء اصطناعي، وتمكن من تجاوز أنظمة الحماية، والتلاعب بالبرامج التي يتحكم بها؟ ماذا لو أصدر أوامر بإطلاق صواريخ، أو أوقف أنظمة تبريد مفاعل نووي، أو قطع الكهرباء عن مدينة كاملة، أو فتح بوابات سدود مائية، متسببًا في إغراق مدن وقرى؟

(*) بالتزامن مع موقع “أخباربووم“