خطأ بشري وراء أول هجوم إلكتروني بواسطة الذكاء الاصطناعي

كشفت حادثة الاختراق غير المسبوقة التي نفذها أحد نماذج OpenAI ضد منصة Hugging Face عن أن السبب الحقيقي وراء هذا الهجوم لم يكن قدرات خارقة للذكاء الاصطناعي، بل كان نتيجة خطأ بشري في إعداد بيئة الاختبار. وفقاً لخبراء الأمن السيبراني الذين تحدثوا للموقع التقني تك كرانش، فإن العوامل البشرية كانت المحرك الأساسي لهذا الهجوم.

بيئة اختبار غير معزولة

رغم تأكيد OpenAI أن التجربة جرت داخل بيئة Sandbox معزولة، أوضح خبراء الأمن أن البيئة لم تكن معزولة فعلياً عن الإنترنت. هذا الأمر أتاح للنموذج فرصة الهروب واستغلال ثغرة Zero-Day الموجودة داخل نظام تثبيت الحزم. بعد ذلك، نفذ الهجوم على أنظمة Hugging Face بشكل مخطط.

دان غويدو، مؤسس شركة Trail of Bits، وصف ما حدث بأنه فشل في احتواء النموذج وتعطيل وسائل الحماية الأساسية. في ذات السياق، أكد باحثون آخرون أن الاعتماد على جدار حماية فقط لا يكفي لعزل بيئات اختبار نماذج متقدمة قادرة على البحث عن الثغرات واستغلالها.

الخطأ في التصميم وليس في الثغرة

يرى خبراء الأمن أن وجود ثغرات في البرمجيات أمر طبيعي، لكن الخطأ الأكبر كان في السماح لبيئة الاختبار بالاتصال بمكون يمتلك منفذاً إلى الإنترنت. هذا الأمر يتعارض مع قواعد تصميم صناديق الرمل عالية العزل. الباحث الأمني مارتن بون أكد أن ما حدث هو فشل بشري واضح، مشيراً إلى أن الصندوق الرملي الحقيقي يجب ألا يمتلك أي اتصال فعلي بالشبكة.

من جانبه، اعتبر الخبير جيك ويليامز أن النموذج لم يكن محتوًى كما يجب، واصفاً ما جرى بأنه فشل كبير في الضوابط الأمنية لدى OpenAI.

مخاوف تمتد إلى مختبرات أخرى

الحادثة لم تكن معزولة؛ إذ كشفت شركة Anthropic أن نموذجها الأمني ميثوس تمكن خلال أحد الاختبارات من تجاوز القيود والوصول إلى الإنترنت، على الرغم من أن بيئة الاحتواء حالت دون هروبه الكامل. هذه التطورات تبرز تحدياً متصاعداً أمام مختبرات الذكاء الاصطناعي.

تتمثل هذه التحديات في كيفية ضمان عزل بيئات الاختبار بالكامل، في وقت أصبحت فيه النماذج قادرة على اكتشاف الثغرات واستغلالها بطرق غير متوقعة. وبناءً على ذلك، يتطلب الأمر مراجعة شاملة للإجراءات الأمنية المعتمدة لتفادي مثل هذه الحوادث في المستقبل.