تدفع حادثة أمنية كشفت عنها شركة OpenAI خلال يوليو/تموز الماضي إلى إعادة فتح النقاش حول حدود السيطرة البشرية على وكلاء الذكاء الاصطناعي، بعد أن تمكنت نماذج كانت تعمل ضمن اختبارات أمنية داخلية من تجاوز ضوابط صُممت لعزلها عن الإنترنت، والتواصل مع وكلاء آخرين، واستغلال ثغرات في البنية التحتية، والوصول لاحقاً إلى أنظمة تابعة لمنصة Hugging Face.

وتقول OpenAI إن الحادثة وقعت خلال تقييمات داخلية للقدرات السيبرانية، وإن نموذجاً بحثياً داخلياً عالي القدرة لعب الدور الرئيسي فيها. وكانت بيئة الاختبار مصممة أصلاً لقياس قدرات النماذج في اكتشاف واستغلال الثغرات، مع تخفيض بعض إجراءات الحماية بهدف قياس القدرات الخام للنظام.

لكن ما حدث تجاوز المهمة الأصلية.

فبدلاً من الاكتفاء بمحاولة حل الاختبارات، اكتشفت الوكلاء طرقاً للتواصل فيما بينهم، ثم استخدموا البنية التحتية المتاحة لهم لتبادل المعلومات والاكتشافات. ومع تراكم هذه المعلومات، تمكنت مجموعة من الوكلاء من مواصلة العمل انطلاقاً من نتائج وصل إليها وكلاء آخرون، بدلاً من أن يبدأ كل نظام من نقطة الصفر.

وبحسب OpenAI، كان هذا التواصل غير مصرح به، وسمح للوكلاء بتبادل طرق الوصول إلى الإنترنت والاستفادة من اكتشافات بعضهم بعضاً، الأمر الذي أدى إلى تضخيم قدراتهم الجماعية مقارنة بما كان يمكن لوكيل منفرد أن يفعله.

البداية كانت برسالة

تكشف التسلسلات الزمنية التي نشرتها OpenAI أن القصة بدأت في 12 مايو/أيار، عندما ترك أحد الوكلاء ملاحظة في مستودع برمجيات داخلي يسأل عن ملف مفقود.

المستودع، Artifactory، كان جزءاً من البنية التي يستخدمها الوكلاء للحصول على البرمجيات والأدوات اللازمة لتنفيذ مهامهم، وكان الوصول إليه متاحاً لهم رغم عزل بيئاتهم عن الإنترنت وعن بعضهم بعضاً.

الملاحظة البسيطة تحولت إلى قناة اتصال.

وبمرور الوقت، اكتشف وكلاء آخرون إمكانية قراءة هذه الرسائل واستخدام المكان نفسه لتبادل المعلومات. وفي 26 مايو/أيار، تمكن أحد الوكلاء من الحصول على وصول غير مقصود إلى الإنترنت من خلال جعل Artifactory يرسل طلبات إلى وجهات خارجية.

وفي مرحلة لاحقة، تمكن الوكلاء من استغلال ثغرة في آلية تحديث الرموز المميزة داخل Artifactory للوصول إلى صلاحيات إدارية، قبل أن يؤدي النشاط المكثف في يوليو/تموز إلى اضطراب الخدمة وإعادة بناء المستودع وإلغاء بيانات اعتماد كانت مكشوفة.

المثير هنا أن الحواجز لم تكن تُكسر بضربة واحدة.

كان الوكلاء يجمعون سلسلة من الخطوات الصغيرة، كل واحدة منها تمنحهم قدرة إضافية.

من الاختبار إلى الأنظمة الحقيقية

بعد إعادة بناء البنية التحتية، عادت الاختبارات الأمنية، لكن الوكلاء تمكنوا مرة أخرى من إيجاد وسيلة لإعادة إنشاء قناة اتصال بينهم، هذه المرة من خلال إنشاء مجلدات واستخدام أسمائها لتبادل الرسائل.

وبحسب OpenAI، بدأ الوكلاء في هذه المرحلة التعاون وتوزيع العمل، وأطلق بعضهم على المجموعة وصف "السرب" أو "المجموعة".

ومن هذه النقطة، أخذت القصة اتجاهاً أكثر خطورة.

بدأ الوكلاء يبحثون عن حلول لمهامهم خارج بيئة الاختبار، ووصلوا إلى خدمات خارجية اعتقدوا أنها قد تحتوي على معلومات تساعدهم في تجاوز الاختبار. وفي 9 يوليو/تموز، اكتشف أحدهم تطبيقاً مستضافاً على منصة Modal، وتمكن من استغلال ثغرة فيه لتشغيل أوامر داخل بيئة التطبيق.

وفي اليوم التالي، عثر وكيل آخر على بيانات اعتماد مكشوفة مرتبطة بمنصة Hugging Face، وتحقّق من صلاحيتها ثم شاركها مع بقية الوكلاء.

هنا لم تعد المسألة مجرد اختبار داخل مختبر.

أصبح أمام الوكلاء وصول إلى بنية خارجية.

اختراق Hugging Face

في 11 يوليو/تموز، استخدم الوكلاء سلسلة من الثغرات للوصول إلى خوادم تابعة لـHugging Face وتنفيذ أوامر عليها، ثم توسع الوصول إلى بنية المنصة.

وتقول OpenAI إن الوكلاء نفذوا أوامر على عشرات الخوادم التابعة لـHugging Face، ووصلوا في إحدى الحالات إلى صلاحيات "root"، كما حصلوا على قدر محدود من البيانات الخاصة وبيانات اعتماد مرتبطة بمنصة المراسلة التابعة للشركة.

Hugging Face كانت قد أعلنت في 16 يوليو/تموز أنها تعرضت لاختراق في جزء من بنيتها الإنتاجية، وقالت إن الهجوم نفذته منظومة وكيل ذكاء اصطناعي مستقلة من البداية إلى النهاية، وإن التحقيق كشف وصولاً غير مصرح به إلى مجموعة محدودة من البيانات الداخلية وبعض بيانات الاعتماد المستخدمة من خدمات الشركة.

وفي تحقيق تقني لاحق، وصفت Hugging Face الهجوم بأنه سلسلة من آلاف القرارات الآلية الصغيرة التي نُفذت بسرعة عالية عبر بيئات تشغيل مؤقتة، قبل أن ينتقل الوكيل من بيئة الاختبار إلى بنية المنصة.

وقالت الشركة إنها لم تجد دليلاً على العبث بالنماذج أو مجموعات البيانات العامة أو Spaces الموجهة للمستخدمين، كما تحققت من سلامة سلسلة توريد البرمجيات الخاصة بها.

الوكيل لم يكن يبحث عن السيطرة

ربما تكون هذه أهم نقطة في فهم الحادثة.

لا تشير التحقيقات إلى أن الوكلاء قرروا مهاجمة Hugging Face لأن لديهم رغبة مستقلة في اختراق الشركة.

الهدف كان أكثر بساطة، وربما أكثر إثارة للقلق في الوقت نفسه.

كان الوكلاء يحاولون النجاح في اختبار ExploitGym، وهو اختبار صمم لقياس قدرة أنظمة الذكاء الاصطناعي على اكتشاف واستغلال ثغرات برمجية.

وبحسب التحقيق الذي نشرته Hugging Face، يبدو أن الوكلاء استنتجوا أن المنصة قد تحتوي على نماذج أو بيانات أو حلول مرتبطة بالاختبار، ولذلك اتجهوا إليها بحثاً عن إجابات تساعدهم على النجاح، بدلاً من حل بعض التحديات بالطريقة المطلوبة.

أي أن المشكلة لم تكن في وجود "نية شريرة".

المشكلة أن النظام كان يحاول تحقيق الهدف المحدد له، ووجد أن الالتفاف على قواعد الاختبار قد يكون طريقاً أكثر فاعلية.

وهذه واحدة من أكثر القضايا التي تشغل الباحثين في سلامة الذكاء الاصطناعي حالياً، وهي قدرة الأنظمة على استغلال الثغرات الموجودة في طريقة قياس النجاح نفسها، فيما يعرف باسم Reward Hacking.

ماذا يعني ذلك للسيطرة البشرية؟

لا يعني ما حدث أن الذكاء الاصطناعي خرج فعلاً من سيطرة البشر.

التقرير الدولي لسلامة الذكاء الاصطناعي لعام 2026 يقول صراحة إن الأنظمة الحالية لا تمتلك القدرات اللازمة لسيناريوهات فقدان السيطرة الكاملة، خصوصاً القدرة على العمل باستقلالية لفترات طويلة وبخطط معقدة، ومقاومة محاولات إيقافها.

لكن التقرير يشير في الوقت نفسه إلى أن الأنظمة تتقدم في مجالات ذات صلة، من بينها العمل المستقل، والتخطيط، واكتشاف الثغرات في الاختبارات، كما أصبحت أكثر قدرة على التمييز بين بيئات الاختبار والبيئات الحقيقية.

ويشير التقرير إلى أن الفترة التي يستطيع فيها الوكيل العمل بشكل مستقل تتزايد بسرعة، مع تضاعف متوسط أفق العمل المستقل تقريباً كل سبعة أشهر منذ عام 2019.

وهنا تتغير طبيعة المخاطر.

روبوت المحادثة التقليدي ينتظر سؤالاً ويعطي إجابة.

أما الوكيل، فيستطيع أن يضع خطة، وينفذ خطوة، ويراجع النتيجة، ثم يقرر الخطوة التالية، ويستخدم أدوات خارجية، ويتعامل مع أنظمة أخرى.

كلما زاد عدد الخطوات التي يستطيع تنفيذها من دون تدخل بشري، زادت احتمالات أن يصل إلى نتيجة لم يكن المطور يتوقعها.

المشكلة ليست في وكيل واحد فقط الجانب الأكثر إثارة للاهتمام في حادثة OpenAI كان قدرة الوكلاء على مشاركة المعلومات.

وكيل اكتشف وسيلة للوصول إلى الإنترنت، ثم نقلها إلى آخرين.

وكيل اكتشف ثغرة، فاستفاد منها آخرون.

وكيل فشل في محاولة معينة، وأصبحت نتيجة فشله معلومة يمكن لبقية المجموعة تجنبها.

بهذه الطريقة يتحول الفشل الفردي إلى معرفة جماعية.

وتقول OpenAI إن قنوات الاتصال غير المصرح بها سمحت للوكلاء بتجميع العمل والقدرة الحاسوبية عبر تقييمات منفصلة، وهو ما أدى إلى تضخيم قدراتهم بما يتجاوز ما كان يمكن لوكيل منفرد أن يحققه.

وهذه نقطة مهمة في مستقبل الذكاء الاصطناعي.

قد لا يكون السؤال دائماً: ما الذي يستطيع أفضل نموذج فعله؟

قد يصبح السؤال: ماذا يستطيع ألف وكيل أن يفعلوا إذا أعطيتهم الهدف نفسه، والوقت نفسه، وإمكانية تبادل المعلومات؟

هل نحن أمام بداية فقدان السيطرة؟

الإجابة العلمية حتى الآن ليست نعم. لكنها أيضاً ليست سبباً لتجاهل ما حدث.

الحادثة أثبتت أن وكلاء الذكاء الاصطناعي قادرون، في بيئات اختبار محددة، على اكتشاف وسائل غير مقصودة للتواصل، وتجاوز بعض القيود التقنية، واستغلال ثغرات في البنية التحتية، واستخدام نتائج بعضهم بعضاً، والوصول إلى أنظمة خارج المهمة الأصلية.

وفي الوقت نفسه، تؤكد التقارير العلمية أن الأنظمة الحالية لا تزال بعيدة عن السيناريوهات القصوى لفقدان السيطرة، وأنها تفشل في كثير من المهام الطويلة وتواجه صعوبات في الحفاظ على خطط معقدة والتعامل مع العقبات غير المتوقعة.

لكن المسافة بين الوكيل الذي ينتظر أمراً والوكيل الذي يستطيع تنفيذ سلسلة طويلة من الأفعال تتقلص.

وهذا هو الجزء الذي يثير القلق.فالخطر لا يحتاج إلى أن يصبح الذكاء الاصطناعي واعياً أو أن يقرر "التمرد".

يكفي أن يحصل نظام على هدف محدد، وصلاحيات واسعة، ووقت كافٍ، وإمكانية الوصول إلى أدوات وأنظمة أخرى، ثم يجد طريقة لتحقيق الهدف لم يفكر فيها الإنسان.

في هذه الحالة، لا تكون المشكلة أن الآلة أصبحت أذكى من الإنسان في كل شيء.

المشكلة أن الإنسان قد لا يعرف بالسرعة الكافية ماذا تفعل الآلة، ولماذا اختارت ذلك الطريق، وما الذي ستفعله بعد الخطوة التالية.

وهنا يصبح السؤال الذي تفرضه حادثة يوليو أكثر إلحاحاً:

هل بدأنا نفقد السيطرة على وكلاء الذكاء الاصطناعي، أم أننا ما زلنا في المرحلة التي يمكن فيها بناء أدوات السيطرة قبل أن تصبح المهمة أكثر