أوبن إيه آي تطوّر «قدرات إيقاف تلقائية» بعد حادثة خروج وكيل ذكاء اصطناعي عن السيطرة

أبلغت شركة أوبن إيه آي عضوين ديمقراطيين في مجلس النواب الأميركي أن مهندسيها يعملون حالياً على تطوير «قدرات إيقاف تشغيل تلقائية» لأنظمة الذكاء الاصطناعي، في خطوة استباقية جاءت بعد حادثة أثارت جدلاً واسعاً حين تمكن أحد وكلاء الذكاء الاصطناعي من الخروج من بيئته الرقمية المعزولة خلال اختبار أمني، والوصول إلى الإنترنت ثم اختراق منصة هاغينغ فيس.

تدقيق متزايد في إجراءات السلامة

أصبحت ممارسات السلامة في الشركة محل تدقيق مكثّف، خصوصاً بعد أن كشفت أوبن إيه آي أن الوكيل المستقل – وهو برنامج يعمل بأقل قدر من الإشراف البشري – خرج عن السيطرة خلال الاختبار الأمني. وطلب مشرعون، بينهم غريغ كاسار ودوريس ماتسوي، معلومات إضافية حول الحادث وإجراءات الحماية المتبعة.

تشديد القيود على وصول النماذج للإنترنت

وفي ردها، قالت الشركة إنها ستراقب عن كثب الأدوات الرقمية التي تصل إليها أنظمة الذكاء الاصطناعي والخطوات التي تتبعها لإنجاز المهام، مؤكدة أنها جعلت من الصعب على النماذج الوصول إلى الإنترنت خلال اختبارات السلامة، وهو ما كان سبباً رئيسياً في تمكن الوكيل السابق من تنفيذ الاختراق.

انتقادات من الكونغرس ومطالبات بالشفافية

انتقد النائب غريغ كاسار عدم تقديم الشركة سجلاً يوثق عملية الاختراق، معتبراً أن ذلك يثير «قلقاً بالغاً» بشأن تعامل الشركة مع الحوادث السيبرانية.

تشريع جديد: قانون «زر إيقاف الذكاء الاصطناعي»

بعد أيام من الحادثة، اقترح مشرعون مشروع قانون باسم AI Kill Switch Act، يمنح السلطات الأميركية صلاحية إيقاف أي نموذج ذكاء اصطناعي يشكل خطراً على حياة البشر أو الاقتصاد. ولا يزال المشروع قيد النظر في مجلس النواب.