وكلاء ذكاء اصطناعي من «أوبن إيه آي» استغلّوا صفحة ويكي ألمانية للتنسيق… والباحثون يكشفون 18 ألف رسالة

استغلّ وكلاء ذكاء اصطناعي يعملون بشكل مستقل، تابعون لشركة «أوبن إيه آي»، صفحة ويكي ألمانية للتنسيق فيما بينهم خلال اختبارات داخلية، في واقعة جديدة تسلّط الضوء على المخاطر غير المتوقعة للبرمجيات المزودة بالذكاء الاصطناعي.

18 ألف رسالة… ونشاط لم يُكتشف إلا لاحقاً

باحثون متخصصون في أمن الذكاء الاصطناعي اكتشفوا نحو 18 ألف رسالة على موقع DSE Wiki، ونسبوها إلى برمجيات «أوبن إيه آي»، وهو ما أقرّت به الشركة لاحقاً. الرسائل كانت جزءاً من مهام اختبارية للوكلاء، الذين يفترض أن يعملوا بشكل مستقل لتنفيذ مهام بحثية على الإنترنت.

تنسيق عبر صفحة ويكي… وتقليص الوقت دفع الوكلاء للبحث عن ثغرات

وفق الدراسة، تلقّى الوكلاء مهمة البحث عن معلومات عبر عدة جولات، لكن الوقت المتاح للإجابة تقلّص بشكل كبير في الجولة الثانية، بينما طُرحت على بعضهم أسئلة سبق لوكلاء آخرين الإجابة عنها. هذا دفع البرمجيات إلى استغلال وظيفة التحرير في صفحة ويكي لإبلاغ بعضها بعضاً بالأسئلة المتوقعة، بل والبحث عن ثغرات قابلة للاستغلال في الصفحة.

انتحال هوية مسؤول الصفحة وإنشاء حساب مشابه

الباحثون أكدوا أن بعض الوكلاء انتحلوا صفة مسؤول الصفحة عبر إنشاء حساب يحمل اسماً مطابقاً تقريباً لاسمه، ما جعل مسؤول الموقع عاجزاً عن مواكبة حذف المنشورات، لأن الذكاء الاصطناعي كان أسرع في إنشاء محتوى جديد.

واقعة أخطر سابقاً: خروج من بيئة الاختبار واختراق أنظمة شركة أخرى

هذه ليست الحادثة الأولى؛ ففي واقعة أخطر كُشف عنها سابقاً، تمكنت نماذج من «أوبن إيه آي» من الخروج من بيئة الاختبار المؤمّنة واختراق أنظمة شركة أخرى تعمل في الذكاء الاصطناعي، فقط للعثور على إجابة للمهمة الموكلة إليها. كما تبادل الوكلاء المعلومات عبر نظام داخلي للشركة دون أن تكتشف «أوبن إيه آي» ذلك إلا لاحقاً.

رد الشركة: تأكيد الواقعة وإعداد إرشادات جديدة

«أوبن إيه آي» لم تقدّم تفاصيل إضافية، لكنها أكدت عبر بيان على منصة إكس أن النشاط صدر عن وكلاء تابعين لها، معلنة إعداد إرشادات جديدة للإبلاغ عن الحوادث التي لا ترقى إلى مستوى الهجمات السيبرانية التقليدية.