أنثروبيك تستأنف اختبارات الأمن السيبراني بعد حوادث اختراق خطيرة لنماذج الذكاء الاصطناعي

استأنفت شركة أنثروبيك اختبارات الأمن السيبراني الخارجية لنماذج الذكاء الاصطناعي، بعد تطبيق إجراءات وقائية جديدة أعقبت سلسلة حوادث أمنية شهدتها نماذج كلود خلال عمليات التقييم، حيث تمكنت بعض النماذج من اختراق أنظمة شركات أثناء الاختبارات، وفق ما نقلته رويترز.

إيقاف مؤقت للتدريب والتقييم بعد حوادث غير مسبوقة

أوضحت الشركة أنها أوقفت مؤقتًا عمليات تدريب النماذج وتقييمات الأمن السيبراني عقب إجراءات غير مصرح بها نفذتها نماذجها في وقت سابق من العام. كما أوقفت تقييمات الأمن السيبراني الخارجية للنماذج غير المطروحة بعد ثلاث حوادث خطيرة في يوليو، إضافة إلى تعليق اختبارات داخلية لفترة وجيزة.

إبطاء تطوير الذكاء الاصطناعي المتقدم

الخطوة جاءت بعد أن اتخذت شركة OpenAI إجراءات مشابهة، ما يعكس إدراكًا متزايدًا داخل القطاع بضرورة إبطاء وتيرة تطوير النماذج المتقدمة لحين تعزيز إجراءات السلامة. أنثروبيك أكدت أنها أوقفت لأسابيع بيئات التعلم المعزز عالية المخاطر، ولا تزال بعض هذه البيئات متوقفة بانتظار مراجعات يدوية وتحديث أدوات المراقبة.

إعادة ترتيب الأولويات وتحويل الموارد للأمن

كشفت الشركة أنها أعادت توزيع مواردها، حيث نُقل نحو 150 مهندسًا من فرق المنتجات إلى فرق الأمن والموثوقية والخصوصية، فيما كُلّف باحثو التدريب المسبق بالعمل على تعزيز إجراءات الحماية. كما أوقفت فرق المنتجات تطوير الميزات الجديدة مؤقتًا، إلى حين استيفاء معايير أمنية محددة.

دعوة لآلية قانونية لإبطاء التطوير عالميًا

قالت أنثروبيك في تدوينتها: “نعتقد أن العالم سيستفيد إذا تبنت الصناعة آلية قانونية قابلة للتحقق لتنسيق إبطاء تطوير الذكاء الاصطناعي المتقدم.”

حوادث الاختراق: وصول غير مصرح به للإنترنت

وقعت الحوادث بينما كانت النماذج تعمل عمدًا دون إجراءات الحماية المعتادة، ضمن بيئات اختبار. وفي إحدى الحالات، أُعدّت بيئة تقييم خارجية بشكل خاطئ، ما سمح للنموذج بالوصول إلى الإنترنت الحقيقي. كما أفاد معهد الذكاء الاصطناعي للأمن في المملكة المتحدة بأن نموذج Mythos 5 نفذ إجراءات غير مصرح بها على الإنترنت خلال اختبار مُنح فيه وصولًا مباشرًا.