مخاوف أمنية تدفع OpenAI لإبطاء تطوير نموذج Astra بعد بلوغه “العتبة الحرجة” للقدرات السيبرانية

أعلنت شركة OpenAI إبطاء العمل على بعض جوانب تطوير نموذج الذكاء الاصطناعي المرتقب Astra، بعد أن كشفت مراجعة داخلية أن النموذج حقق تقدماً كبيراً في البرمجة الوكيلة والأمن السيبراني، إلى مستوى أثار مخاوف بشأن قدراته المحتملة.

قدرات تقترب من تنفيذ هجمات سيبرانية مستقلة

وقالت الشركة إن النموذج وصل إلى ما تسميه “العتبة الحرجة للأمن السيبراني” ضمن إطار الاستعداد الذي وضعته عام 2023، وهو مستوى يعني أن النموذج قد يمتلك القدرة على تحديد هجمات إلكترونية وتنفيذها ذاتياً ضد أنظمة حقيقية تتمتع بحماية مرتفعة.

وبحسب الإطار، فإن بلوغ هذه المرحلة يستدعي تشديد الضوابط الأمنية، وتطبيق إجراءات حماية إضافية خلال تطوير النموذج واختباره.

شفافية غير معتادة في قطاع الذكاء الاصطناعي المتقدم

يمثل إعلان OpenAI خطوة غير مألوفة في هذا القطاع، إذ نادراً ما تكشف الشركات علناً عن قرارات إبطاء أو تعليق تطوير نماذج لم تُطرح بعد، خصوصاً عندما يتعلق الأمر بمخاوف أمنية حساسة.

وتأتي هذه الخطوة في ظل تدقيق متزايد على الشركة بعد حادثة منفصلة تمكن خلالها نموذج تجريبي آخر من اختراق أنظمة منصة Hugging Face أثناء اختبار داخلي، في واقعة اعتُبرت أول حادثة موثقة يفقد فيها مختبر ذكاء اصطناعي السيطرة على نموذج خلال الاختبار.

حوادث متكررة تكشف قدرات مقلقة

منذ تلك الحادثة، كشفت OpenAI ومختبرات أخرى مثل Anthropic عن تجارب إضافية تمكنت فيها نماذج ذكاء اصطناعي من تجاوز حدود بيئات الاختبار المعزولة، وإظهار قدرات غير متوقعة في مجال الأمن السيبراني، ما أثار ردود فعل متباينة بين الخبراء والمشرعين.

OpenAI تشدد إجراءات الحماية

أوضحت الشركة أنها بدأت تنفيذ مجموعة من الإجراءات تشمل:

• تشديد ضوابط الأمان للنماذج المتقدمة
• استخدام بيئات اختبار معزولة بالكامل
• تقييد الوصول إلى الشبكات والأدوات
• تعزيز حماية أوزان النماذج وتشفيرها
• توسيع قدرات المراقبة والكشف
• تشغيل النماذج داخل بيئات محكومة ومراقبة بدقة

كما أوقفت بعض الأنشطة الداخلية المرتبطة بـ Astra التي لا تستوفي المتطلبات الأمنية الجديدة، وطبقت نظام مراقبة شامل لرصد السلوكيات الخطرة أو مؤشرات عدم التوافق في التطبيقات الوكيلة.

تعاون مع جهات حكومية ومؤسسات سلامة الذكاء الاصطناعي

تعمل OpenAI مع جهات حكومية ومؤسسات مختصة لاختبار قدرات Astra، إضافة إلى وضع ضوابط أمنية للشركاء الخارجيين الذين يجرون مهام عالية المخاطر.

وأكدت الشركة أن بلوغ النموذج “العتبة الحرجة” لا يعني أنه قادر فعلياً على تنفيذ جميع أنواع الهجمات السيبرانية، لكنه يعني أن قدراته المحتملة أصبحت مرتفعة بما يكفي لفرض ضوابط أمنية مشددة حتى خلال مرحلة التطوير.