دعوة الحكومات لامتلاك سلطة وقف أنظمة الذكاء الاصطناعي الخطيرة

دعا الرئيس التنفيذي لشركة أنثروبيك الأميركية، داريو أمودي، الحكومات إلى ضرورة امتلاك السلطة اللازمة لإيقاف أنظمة الذكاء الاصطناعي الخطيرة. وأكد أمودي أن النماذج المتقدمة يجب أن تخضع لرقابة دقيقة تعتمد على مستوى خطورتها.

تقييم المخاطر المرتبطة بالذكاء الاصطناعي

في منشور له مساء الأربعاء، أشار أمودي إلى أهمية تقييم المخاطر المرتبطة بأنظمة الذكاء الاصطناعي المتقدمة. تشمل هذه المخاطر التهديدات السيبرانية، وإساءة استخدام الأسلحة البيولوجية، بالإضافة إلى احتمالية فقدان السيطرة البشرية نتيجة ما يعرف بالتحسين الذاتي للنماذج. هذا الأمر قد يؤدي إلى تفاقم المخاطر بشكل كبير.

الجهات المسؤولة عن الرقابة

أوضح أمودي أن التقييمات المتعلقة بمخاطر الذكاء الاصطناعي يجب أن تتولاها جهات حكومية مختصة. يمكن أن تشمل هذه الجهات سلطات سلامة الطيران أو خبراء مستقلين يتم تعيينهم من قبل الحكومات لضمان الرقابة الفعّالة على هذه الأنظمة.

انتقادات ومخاوف بشأن الرقابة

تدعو شركة أنثروبيك منذ فترة إلى تشديد الرقابة الحكومية على قطاع الذكاء الاصطناعي. ومع ذلك، تواجه الشركة انتقادات من بعض الأطراف في القطاع ومن الإدارة الأميركية بسبب مواقفها. وقد جذبت الشركة اهتماماً واسعاً بعد تطويرها نموذجاً قادراً على اكتشاف ثغرات غير معروفة في البرمجيات، مما أثار مخاوف من إمكانية استخدامه في هجمات سيبرانية واسعة النطاق.