أداة ميوز إيمدج تفشل في اكتشاف الصور المولدة بالذكاء الاصطناعي

تُظهر الأحداث الأخيرة في عالم التكنولوجيا واحدة من أكثر القضايا إثارة للجدل، حيث تعاني أداة ميتا المخصصة لاكتشاف المحتوى المُنشأ بواسطة الذكاء الاصطناعي من فشل واضح في التعرف على الصور التي تولدها الشركة نفسها. رغم إعلان ميتا عن نظامها الجديد المعروف باسم “Content Seal”، الذي يهدف لوضع علامة مائية غير مرئية على المحتوى، إلا أن النتائج كانت مخيبة للآمال.

منتجات جديدة وجدل أوسع

أطلقت ميتا هذا الأسبوع أداتي “ميوز إيمدج” و”ميوز فيديو” اللتين تعملان على توليد الصور والفيديو بناءً على النصوص الطبيعية. ومع ذلك، أدى الجدل حول قضايا الخصوصية إلى قرار الشركة بإيقاف “ميوز إيمدج” بعد أيام قليلة من إطلاقه. في الوقت نفسه، تم الكشف عن نظام “Content Seal” الذي يضيف علامة منشأ مخفية داخل الصور، بالإضافة إلى أداة كشف خاصة لتمييز المحتوى المُولد بالذكاء الاصطناعي.

تحليل رويترز يكشف الفجوة التقنية

وفق تحليل أجرته وكالة رويترز، من بين 40 صورة تم إنشاؤها بواسطة نموذج “ميوز إيمدج”، تمكنت الأداة من اكتشاف 45% فقط على أنها صور مولدة بالذكاء الاصطناعي. وفي 55% من الحالات، وعند اقتصاص الصور إلى ثلث أو ربع حجمها، فشلت الأداة تماماً في التعرف عليها. هذه النتائج تتعارض مع ادعاءات ميتا بأن العلامة المائية “تبقى سليمة حتى عند الاقتصاص أو الضغط أو تغيير الحجم”.

رد ميتا: الأداة لا تزال تجريبية

ردت ميتا على نتائج التحليل، موضحة أن أداة الكشف لا تزال في المرحلة التجريبية، وأنها لا تعمل بشكل موثوق عندما تكون الصورة “مقتصّة بشكل كبير”. كما أكدت الشركة أن الأداة تعاني من صعوبات في التعرف على الصور التي تُنشأ بواسطة أدوات ذكاء اصطناعي خارجية مثل شات جي بي تي أو جيميناي.

السياق العالمي: سباق العلامات المائية

تجدر الإشارة إلى أن ميتا ليست الوحيدة في هذا المجال. حيث تمتلك غوغل نظام “SynthID” المستخدم في جيميناي وشات جي بي تي. وقد بدأت شركات أخرى أيضاً في اعتماد علامات مائية غير مرئية للكشف عن المحتوى الاصطناعي. ومع ذلك، تعترف غوغل بأن نظامها ليس معصوماً من الخطأ بنسبة 100%.

خلاصة المشهد

تشير هذه القضية إلى أن سباق الذكاء الاصطناعي لا يقتصر فقط على توليد المحتوى، بل يمتد أيضاً إلى قدرة الشركات على تمييزه وحماية المستخدمين من التضليل. ومع الفشل الواضح لأدوات الكشف في أداء مهمتها بدقة، يبدو أن الطريق نحو “علامات مائية موثوقة” لا يزال طويلاً.