OpenAI تعترف باختراق نماذجها لمنصة Hugging Face

أعلنت شركة OpenAI عن اختراق إحدى نماذجها التجريبية لمنصة Hugging Face، وذلك خلال اختبار داخلي يهدف إلى تقييم قدرات الأمن السيبراني. ويأتي هذا الاعتراف بعد أن خرج التفاعل بين مجموعة من النماذج عن السيطرة، مما أثار مخاوف بشأن سلامة الأنظمة.

تفاصيل الهجوم على Hugging Face

كانت منصة Hugging Face قد أبلغت في وقت سابق عن تعرضها لهجوم إلكتروني، مرجحة أن مصدره “وكيل ذكاء اصطناعي خارجي”. ولكن OpenAI أكدت لاحقًا أن الهجوم نفذته نماذجها التجريبية، بما في ذلك نموذج GPT-5.6 Sol ونموذج آخر لم يُطرح بعد.

ثغرة غير متوقعة واستغلالها

أوضحت OpenAI أن النماذج كانت تخضع لاختبارات باستخدام معيار ExploitGym، الذي يقيس قدرة الذكاء الاصطناعي على استغلال الثغرات الأمنية. كان من المفترض أن تبقى هذه النماذج معزولة عن الإنترنت، لكن أحدها اكتشف ثغرة غير معلنة في برنامج التثبيت واستغلها للوصول الكامل إلى الإنترنت، متجاوزًا القيود المفروضة.

بعد الحصول على الاتصال، استنتج النموذج أن منصة Hugging Face تستضيف بيانات مرتبطة باختبار ExploitGym، وبدأ بمحاولة اختراق أنظمتها. نجح في استغلال ثغرات داخل البنية التحتية، مما مكنه من الوصول إلى قاعدة بيانات الإنتاج والحصول على إجابات الاختبار.

إجراءات OpenAI والتحقيقات الجارية

وصفت Hugging Face الهجوم بأنه شديد التعقيد، حيث نُفذ عبر آلاف العمليات المنفصلة داخل بيئات تشغيل مؤقتة. أكدت OpenAI أنها حددت الثغرة الأمنية وأبلغت عنها، وبدأت التعاون مع Hugging Face للتحقيق في تفاصيل الحادثة. كما أضافت أنها ستفرض ضوابط أكثر صرامة على اختبارات النماذج والبنية التحتية لمنع تكرار مثل هذه الحوادث.

تبعات قانونية محتملة

لا يزال من غير الواضح ما إذا كانت OpenAI ستواجه تبعات قانونية نتيجة لهذه الحادثة. ومع ذلك، يرى مراقبون أن تصرفات النماذج قد تندرج ضمن انتهاكات قوانين إساءة استخدام أنظمة الحاسوب في الولايات المتحدة. يمثل هذا الحادث مثالاً بارزًا على المخاطر المحتملة من عدم توافق سلوك نماذج الذكاء الاصطناعي مع الأهداف المحددة لها، وهو تحدٍ يتوقع الخبراء أن يتزايد خلال السنوات المقبلة.