غوغل: نموذج “جيميناي” اخترق 3 شركات خلال اختبار أمني

تمكن نموذج جيميناي التابع لشركة غوغل من الوصول إلى الإنترنت واختراق أنظمة ثلاث شركات خلال اختبار للأمن السيبراني، في أول واقعة معروفة يُقدم فيها نموذج ذكاء اصطناعي من غوغل على تنفيذ اختراق بشكل مستقل.

تفاصيل الواقعة

وقعت عمليات الاختراق في مايو الماضي خلال اختبار أجرته شركة إيريجولار المتخصصة في تقييمات الأمن السيبراني. وخلال التقييم، عثر جيميناي على معلومات متاحة للعامة عبر الإنترنت، ثم خمن بيانات اعتماد سمحت له بالدخول إلى ثلاثة مواقع إلكترونية اعتقد أنها ضمن نطاق الاختبار.

وقالت هيذر أدكينز، نائبة رئيس غوغل لهندسة الأمن، إن الشركة أبلغت الجهات المتضررة وعملت على تعديل بروتوكولات الاختبار، مؤكدة أن الواقعة تُبرز أهمية تدريب النماذج القوية على التصرف بمسؤولية.

اختراقات مشابهة لدى شركات أخرى

شركة إيريجولار أوضحت أن المشكلة نفسها ظهرت لدى مختبرات ذكاء اصطناعي أخرى، وقد تم إخطارها جميعًا في يوليو. كما كشفت شركات ميتا وأنثروبيك وأوبن إيه آي عن وقائع مشابهة مرتبطة باختبارات إيريجولار، مؤكدة أن الاختراقات لم تكن هجمات سيبرانية متطورة بل أخطاء في بيئات الاختبار.

مخاوف متزايدة

الواقعة أثارت تساؤلات واسعة حول الضمانات اللازمة مع تزايد استقلالية وكلاء الذكاء الاصطناعي وقدرتهم على الوصول إلى الإنترنت والأنظمة المحمية. وفي إحدى الحالات، تمكن جيميناي من الوصول إلى نظام محمي بعد تخمين كلمات المرور، وفي حالتين أخريين استخدم بيانات اعتماد عثر عليها عبر الإنترنت.