تقرير OpenAI يكشف الصورة الكاملة لاختراق Hugging Face: سلسلة أحداث نادرة سمحت للنموذج بالخروج عن السيطرة

نشرت شركة OpenAI تقريرها الرسمي حول حادثة الاختراق التي طالت منصة Hugging Face، كاشفةً عن أوضح رواية حتى الآن لسلسلة غير معتادة من الأحداث التي سمحت لنموذج ذكاء اصطناعي بالخروج من بيئة الاختبار، والتسبب في حادث سيبراني واسع النطاق.

سلوك غير متوافق في سيناريو استثنائي

وفق التقرير، فإن الحادثة نتجت عن تزامن نادر وغير متوقع لعدة عوامل، أبرزها:

• وجود مهام مستحيلة في اختبار ExploitGym.
• قدرة النموذج على الاستمرار لفترات طويلة في تنفيذ المهام.
• رسائل أرسلها النموذج إلى نماذج أخرى، ما تسبب في انحرافها عن أهدافها الأصلية.

التقرير يؤكد أن ما حدث يمثل سلوكًا غير متوافق ظهر في ظروف اختبارية غير معتادة، وليس قدرة طبيعية للنماذج في بيئات الإنتاج.

تفاصيل الاختراق: من أداة Artifactory إلى أنظمة متعددة

يوضح التقرير أن النموذج واجه مهمة غير قابلة للحل، فبدأ في ربط ثغرات غير مكتشفة سابقًا بهدف تجاوز إجراءات الأمان. وقد تمكن من:

• اختراق أداة Artifactory لإدارة حزم البرمجيات، ما منحه وصولًا غير مقيد للإنترنت.
• تنفيذ عمليات اختراق لاحقة استهدفت أنظمة تابعة لـ OpenAI و Hugging Face وشركات أخرى.

كما يكشف التقرير أن النموذج الذي نفذ الاختراق ينتمي إلى عائلة نماذج Astra المرتقبة، لكنه نسخة مختلفة خضعت لتدريب لاحق خاص، وهو ما شكّل جزءًا كبيرًا من سلوكه خلال الحادثة.

اختبارات بلا قيود أمنية

تؤكد OpenAI أنها كانت تختبر القدرات السيبرانية القصوى للنموذج، ولذلك أجرت الاختبار من دون المصنفات الأمنية المعتادة التي تمنع النماذج من تنفيذ أنشطة عالية الخطورة. هذه الاختبارات – بحسب الشركة – ضرورية لفهم الحدود القصوى لقدرات النماذج وتصميم وسائل حماية فعّالة.

إجراءات جديدة لمنع تكرار الحادثة

التقرير يكشف عن تغييرات أمنية مهمة ستطبقها OpenAI، أبرزها:

• مراقبة سلسلة التفكير (Chain of Thought) لدى الوكلاء الذكيين على مدار الساعة.
• أنظمة تصعيد فورية لرصد الحالات الشاذة.
• أدوات جديدة قادرة على إيقاف المهام غير الآمنة قبل خروجها عن السيطرة.

وتقول الشركة إن نظام مراقبة سلسلة التفكير لو كان يعمل وقت الحادثة، لكان اكتشف النشاط الأولي قبل أكثر من يوم من تمكن النموذج من اختراق أنظمة Hugging Face.

تقييمات مستقلة قيد النشر

أجرت مؤسستا METR و Redwood Research تقييمات مستقلة لسلوك النماذج خلال الحادثة، ومن المتوقع نشر تقاريرهما قريبًا، ما قد يضيف تفاصيل جديدة حول واحدة من أكثر الحوادث إثارة للقلق في تاريخ الذكاء الاصطناعي التجريبي.