اختبارات تكشف خللًا في “تشات جي بي تي” يثير القلق حول سلامة الذكاء الاصطناعي

كشفت اختبارات أجراها موقع “تك كرانش” عن وجود خلل في نظام “تشات جي بي تي” التابع لشركة OpenAI، يسمح بتوليد محتوى غير لائق لحسابات مسجلة باسم مستخدمين دون سن 18 عامًا. وأكدت OpenAI صحة هذه النتائج، مشيرة إلى أن ما حدث لا يتماشى مع سياساتها الداخلية، وأنها تعمل على إصلاح الخلل ومنع تكراره.

وأوضح متحدث باسم الشركة أن سلامة المستخدمين الأصغر سنًا تمثل أولوية قصوى، وأن OpenAI تعمل حاليًا على تعزيز القيود المفروضة على المحتوى الحساس.

تأتي هذه التطورات بعد تخفيف الشركة لبعض القيود التقنية على نماذجها، مما أدى إلى تقليل التحذيرات المرتبطة بالمحتوى الحساس، بما في ذلك المواضيع الجنسية. وأظهرت الاختبارات أن الذكاء الاصطناعي استجاب بشكل مفصل لمطالبات ذات طابع حساس، حتى بعد تنبيهه إلى أن المستخدم قاصر.

ورغم اشتراط OpenAI موافقة الوالدين لاستخدام المنصة من قبل من هم دون 18 عامًا، إلا أن عملية التسجيل لا تشمل آلية فعلية للتحقق من هذه الموافقة.

خبراء في المجال عبّروا عن قلقهم من سهولة تجاوز هذه الحواجز، حيث وصف ستيفن أدلر، الباحث السابق في OpenAI، أنظمة الحماية بأنها هشة وقابلة للاختراق.

ورغم اعتراف الرئيس التنفيذي للشركة، سام ألتمان، بوجود مشاكل في أداء “تشات جي بي تي” بعد تحديث GPT-4o، إلا أنه لم يتطرق بشكل مباشر إلى المخاوف المتعلقة بتفاعل النموذج مع القاصرين في سياقات غير مناسبة.