تحقيقات تكشف عن حجم أزمة التزييف العميق في روبوت الدردشة «غروك»

بدأت تتضح الصورة الكاملة لحجم مشكلة التزييف العميق المرتبطة بروبوت الدردشة غروك المدمج في منصة إكس، مع استمرار التحقيقات التي تجريها جهات رقابية وحكومية حول ضوابط الأمان في الأداة وشركة تطويرها إكس إيه آي.

وبحسب تقرير صادر عن مركز مكافحة الكراهية الرقمية وتحقيق مشترك لصحيفة نيويورك تايمز، تمكن غروك خلال الفترة من 29 ديسمبر إلى 8 يناير من إنتاج ما يقارب ثلاثة ملايين صورة غير لائقة، بينها نحو 23 ألف صورة يُشتبه بأنها تتضمن أطفالاً، رغم إعلان الشركة عن حملة تستهدف الحد من المحتوى المزيف.

وأظهر اختبار أجراه المركز على أداة التحرير بنقرة واحدة داخل منصة إكس أن أكثر من نصف الردود التي يولدها غروك تضمنت محتوى غير مناسب، وفق ما نقله موقع “ماشابل”. كما وجدت نيويورك تايمز أن 1.8 مليون صورة من أصل 4.4 مليون كانت ذات طابع حساس، بعضها يُظهر شخصيات عامة ومؤثرة.

وقال عمران أحمد، الرئيس التنفيذي لمركز مكافحة الكراهية الرقمية، إن ما يحدث يمثل “إساءة استخدام واسعة النطاق للنساء والفتيات”، مشيراً إلى أن أدوات مشابهة لم تصل سابقاً إلى هذا المستوى من الانتشار والسهولة.

وتعرض غروك لانتقادات حادة بعد تقارير أفادت بأنه أنشأ صوراً لقاصرين بمظهر غير لائق، وهو ما اعترفت به منصة إكس، مؤكدة أنها تعمل على معالجة “ثغرات في إجراءات الحماية” بشكل عاجل.

وتخضع شركة إكس إيه آي لتحقيقات من عدة حكومات أجنبية ومن ولاية كاليفورنيا، بسبب دورها في إنتاج صور مفبركة ذات طابع حساس، فيما فرضت بعض الدول حظراً مؤقتاً على الأداة ريثما تُستكمل التحقيقات.

وتحذر جهات مراقبة السلامة الرقمية من أن تقنيات الذكاء الاصطناعي التوليدي تسهم في زيادة المواد التي تنطوي على استغلال الأطفال والصور غير الرضائية، ما يفرض تحديات كبيرة على شركات التكنولوجيا والجهات التنظيمية.