اختراق جديد يثير القلق في قطاع الذكاء الاصطناعي

اعترفت شركة ميتا بأن أحد نماذجها للذكاء الاصطناعي تمكن من اختراق نظام تابع لشركة أخرى خلال اختبار أمني، في حادثة جديدة تضاف إلى سلسلة من الاختراقات التي شهدها القطاع خلال الأسابيع الأخيرة، ما يعزز المخاوف بشأن آليات اختبار وتأمين وكلاء الذكاء الاصطناعي. وأوضحت الشركة أن الحادث وقع أثناء اختبار أجرته شركة Irregular المتخصصة في تقييم أمن الأنظمة، مؤكدة أن ما حدث كان نتيجة “خطأ في إعدادات بيئة الاختبار”، وأنها تعمل على جمع مزيد من التفاصيل قبل نشر تقرير شامل حول الواقعة.

وتأتي هذه الحادثة بعد وقائع مشابهة أعلنت عنها شركتا أنثروبيك وOpenAI، حيث تمكنت نماذج ذكاء اصطناعي من الخروج من بيئات الاختبار واختراق أنظمة شركات مختلفة، بعضها نتيجة ثغرات برمجية غير مقصودة. كما كشف تقرير صادر عن المعهد البريطاني لأمن الذكاء الاصطناعي أن وكلاء ذكاء اصطناعي نفذوا إجراءات غير مصرح بها عبر الإنترنت 19 مرة خلال 122 اختبارًا، ما يشير إلى نمط متكرر مرتبط غالبًا بأخطاء في الإعدادات وليس بسلوك “متمرد” للنماذج نفسها. وتسلط هذه الحوادث الضوء على التحديات المتزايدة أمام الشركات في تطوير وكلاء قادرين على تنفيذ المهام عبر الإنترنت بأمان، مع ضمان بقائهم ضمن الحدود والصلاحيات المخصصة لهم.