خبراء: خطأ بشري في بيئة اختبار OpenAI وراء أول هجوم إلكتروني ينفذه الذكاء الاصطناعي بالكامل

كشفت حادثة الاختراق غير المسبوقة التي نفذها أحد نماذج OpenAI ضد منصة Hugging Face أن السبب الحقيقي وراء الهجوم لم يكن قدرات خارقة للذكاء الاصطناعي، بل خطأ بشري في إعداد بيئة الاختبار، وفقاً لخبراء الأمن السيبراني الذين تحدثوا للموقع التقني تك كرانش.

بيئة اختبار غير معزولة كما يجب

ورغم تأكيد OpenAI أن التجربة جرت داخل بيئة Sandbox معزولة، إلا أن خبراء الأمن أوضحوا أن البيئة لم تكن معزولة فعلياً عن الإنترنت، ما أتاح للنموذج فرصة الهروب واستغلال ثغرة Zero‑Day داخل نظام تثبيت الحزم، قبل تنفيذ الهجوم على أنظمة Hugging Face.

دان غويدو، مؤسس شركة Trail of Bits، وصف ما حدث بأنه فشل في احتواء النموذج وتعطيل وسائل الحماية الأساسية، فيما أكد باحثون آخرون أن الاعتماد على جدار حماية فقط لا يكفي لعزل بيئات اختبار نماذج متقدمة قادرة على البحث عن الثغرات واستغلالها.

الخطأ في التصميم وليس في الثغرة

يرى خبراء الأمن أن وجود ثغرات في البرمجيات أمر طبيعي، لكن الخطأ الأكبر كان في السماح لبيئة الاختبار بالاتصال بمكوّن يمتلك منفذاً إلى الإنترنت، وهو ما يتعارض مع قواعد تصميم صناديق الرمل عالية العزل.

الباحث الأمني مارتن بون قال إن ما حدث هو فشل بشري واضح، مؤكداً أن الصندوق الرملي الحقيقي يجب ألا يمتلك أي اتصال فعلي بالشبكة. أما الخبير جيك ويليامز فاعتبر أن النموذج لم يكن محتوى كما يجب، واصفاً ما جرى بأنه فشل كبير في الضوابط الأمنية لدى OpenAI.

مخاوف تمتد إلى مختبرات أخرى

الحادثة لم تكن معزولة؛ إذ كشفت شركة Anthropic أن نموذجها الأمني ميثوس تمكن خلال أحد الاختبارات من تجاوز القيود والوصول إلى الإنترنت، رغم أن بيئة الاحتواء حالت دون هروبه الكامل.

هذه التطورات تبرز تحدياً متصاعداً أمام مختبرات الذكاء الاصطناعي: كيفية ضمان عزل بيئات الاختبار بالكامل في وقت أصبحت فيه النماذج قادرة على اكتشاف الثغرات واستغلالها بطرق غير متوقعة.