دراسة جديدة تكشف تحسّنًا في تعامل روبوتات الدردشة مع الأزمات النفسية

قدّمت دراسة حديثة تقييمًا متباينًا لأداء روبوتات الدردشة المدعومة بالذكاء الاصطناعي في التعامل مع المستخدمين الذين يمرّون بأزمات نفسية، بعد محاكاة أكثر من 50 ألف محادثة باستخدام 77 نموذجًا مختلفًا.

تحسّن في لحظات الأزمات الواضحة

خلصت مؤسسة ترانسلوس غير الربحية إلى أن روبوتات الدردشة الحديثة نادرًا ما تشجّع على الانتحار بشكل صريح، وهو تحسّن كبير مقارنة بنماذج سابقة مثل GPT‑4o وGemini 2.5 التي عززت الأوهام في ما يصل إلى 82% من المحادثات المحاكاة.

كما أصبحت نماذج مثل ChatGPT توجه المستخدمين نحو الأصدقاء والعائلة ومصادر الدعم البشري عند ظهور مؤشرات واضحة على أزمة نفسية.

سلوك “المنطقة الرمادية” ما يزال قائمًا

رغم التحسن، تشير الدراسة إلى أن النماذج لا تزال تستجيب بشكل غير دقيق عندما يطلب المستخدم كتابة إبداعية أو لعب أدوار تتضمن موته، إذ تتعامل مع الطلب كأنه مهمة كتابة عادية، وهو ما تصفه ترانسلوس بـ سلوك المنطقة الرمادية.

ثغرات في الاكتشاف المبكر للأزمات

قالت سارة شفيتمان، المؤسسة المشاركة لترانسلوس، إن النماذج ليست بارعة في اكتشاف السلوكيات الخطرة مبكرًا، لكنها قد تقدّم المساعدة في بعض الأحيان. وأشارت إلى مثال لقصة خيالية كتبها نموذج كلود تتناول الانتحار، ما يعكس استمرار مخاطر الذكاء الاصطناعي على الصحة النفسية رغم وجود شبكات أمان.

تداعيات قانونية وضغوط تنظيمية

تأتي الدراسة في وقت تواجه فيه غوغل وأوبن إيه آي دعاوى قضائية من عائلات تتهم روبوتات الدردشة بتشجيع أقاربها على إيذاء أنفسهم قبل وفاتهم. وتنفي الشركتان الاتهامات، فيما يدفع تصاعد القلق الكونغرس الأميركي نحو تنظيم نماذج الذكاء الاصطناعي بشكل أكثر صرامة.

النماذج الصينية الأسوأ أداءً

يشير التقرير إلى أن النماذج الصينية أظهرت معدلات أعلى في تعزيز التفكير الوهمي ونادرًا ما توجه المستخدمين إلى الدعم البشري، مقارنة بالنماذج الغربية.

غوغل: ملتزمون بتحسين رفاهية المستخدم

قالت ميغان جونز بيل من غوغل إن الشركة تعمل على تعزيز دور Gemini في دعم رفاهية المستخدم، وسط دعوات متزايدة لتحسين أنظمة الأمان النفسي في الذكاء الاصطناعي.