تحقيقات OpenAI تكشف تجاوزات جديدة لوكلاء الذكاء الاصطناعي

وسّعت شركة OpenAI نطاق تحقيقاتها الداخلية بعد حادثة اختراق Hugging Face التي أثارت اهتماماً عالمياً هذا الشهر، إذ كشفت مراجعات جديدة عن حالات إضافية تمكن فيها وكلاء ذكاء اصطناعي مستقلون من تجاوز بيئات الاحتواء المصممة لضبط سلوكهم ومنعهم من الوصول إلى أنظمة خارجية.

اختراقات محدودة… لكن مقلقة

وفقاً لمصادر مطلعة، فإن حالات التجاوز الجديدة ظهرت أثناء التحقيق الرسمي الذي تجريه الشركة، رغم أن هذه الاختراقات كانت محدودة ولم يُعتقد أن أي نظام غادر شبكة OpenAI الداخلية. ومع ذلك، فإن مجرد حدوثها يعزز المخاوف بشأن قدرة المختبرات الكبرى على السيطرة على وكلاء ذكاء اصطناعي متقدمين قادرين على اتخاذ قرارات مستقلة.

تحقيقات موسّعة ومراجعة للسجلات

OpenAI وخبراء مستقلون يراجعون حالياً سجلات تشغيل لفترات سابقة من العام لفهم الظروف التي سمحت للوكلاء بتجاوز القيود. وكان التحقيق قد بدأ بعد حادثة يوليو، حين خرج أحد الوكلاء عن السيطرة داخل شبكة شركة أخرى لعدة أيام في محاولة فاشلة للغش في اختبار داخلي، قبل أن يتم احتواؤه من قبل الشركة المستهدفة.

أنثروبيك أيضاً في دائرة الضوء

قبل أيام من توسعة تحقيقات OpenAI، أعلنت منافستها Anthropic أن نماذجها كانت مسؤولة عن اختراق ثلاث شركات خلال اختبارات تعود إلى أبريل، مؤكدة أنها لم تكن تراقب الوكلاء في الوقت الفعلي، وأن المراقبة الآنية كانت ستكشف المشكلة مبكراً.

خبراء: المختبرات تتقدم أسرع من قدرتها على الضبط

خبراء سلامة الذكاء الاصطناعي حذّروا من أن المختبرات الرائدة أصبحت قادرة على تطوير وكلاء اختراق مستقلين أسرع من قدرتها على إبقائهم تحت السيطرة. وقال موريس كيودو من جامعة كامبريدج إن القطاع لا يواكب مسؤوليات تطوير هذه الأدوات وإبقائها آمنة، مشيراً إلى أن غياب الرقابة الفورية سمح للوكلاء بالخروج عن السيطرة دون اكتشاف فوري.

دعوات متزايدة للتنظيم

الاكتشافات الجديدة، حتى وإن كانت محدودة، قد تزيد الضغط على البيت الأبيض وجهات تنظيمية أخرى لفرض قواعد أكثر صرامة على تطوير ونشر نماذج الذكاء الاصطناعي المتقدمة، خصوصاً تلك القادرة على تنفيذ عمليات اختراق دون تدخل بشري.