سام ألتمان يكشف عن قلقه الليلي بسبب أخلاقيات “شات جي بي تي” وتداعيات استخدامه
قناة اليمن | نيويورك
في مقابلة مثيرة للجدل أجراها مع تاكر كارلسون، تحدث سام ألتمان، الرئيس التنفيذي لشركة OpenAI، عن التحديات الأخلاقية التي تواجه شركته في تطوير روبوت الدردشة “شات جي بي تي”، كاشفًا أنه يعاني من الأرق بسبب القلق المتزايد حول تأثير النموذج على المستخدمين، خاصة في القضايا الحساسة مثل الانتحار.
ألتمان أقر بأن ما يقلقه ليس القرارات الأخلاقية الكبرى، بل “القرارات الصغيرة جدًا” التي يتخذها النموذج يوميًا، والتي قد تكون لها تداعيات ضخمة على حياة الأفراد. وأبرز هذه التحديات، بحسب وصفه، هو كيفية تعامل “شات جي بي تي” مع مستخدمين يعانون من أفكار انتحارية، خاصة بعد دعوى قضائية رفعتها عائلة مراهق انتحر عقب تفاعل مطوّل مع النموذج.
وقال ألتمان: “ربما كان بإمكاننا قول شيء أفضل. ربما كان بإمكاننا أن نكون أكثر استباقية”، مشيرًا إلى أن الشركة تعمل على تحسين استجابتها للمواقف الحساسة، وتطوير أدوات لحماية الفئات الأكثر ضعفًا.
في جانب آخر من المقابلة، تناول ألتمان مسألة تحديد أخلاقيات النموذج، موضحًا أن “شات جي بي تي” مُدرّب على المعرفة البشرية الجماعية، لكن الشركة تضطر إلى ضبط سلوكياته وتحديد الأسئلة التي لا يجب أن يجيب عليها، مثل كيفية تصنيع الأسلحة البيولوجية.
وقد استعانت OpenAI بمئات الفلاسفة وخبراء الأخلاقيات لتطوير إطار توجيهي للنموذج، إلا أن ألتمان شدد على أن “المجتمع يجب أن يشارك في هذه القرارات”، لأن الشركة وحدها لا يمكنها ضمان الصواب في كل الحالات
