باحثون أميركيون يطورون آلية لحماية نماذج الذكاء الاصطناعي المصغّرة من السلوك الضار

كشف باحثون في جامعة كاليفورنيا، ريفرسايد، عن طريقة جديدة لمعالجة ضعف الأمان في نماذج الذكاء الاصطناعي مفتوحة المصدر عند تكييفها للعمل على أجهزة منخفضة الطاقة مثل الهواتف والسيارات، وهي خطوة تهدف إلى منع هذه النماذج من إنتاج محتوى ضار أو خطير.

الدراسة، التي عُرضت في المؤتمر الدولي للتعلم الآلي في فانكوفر، أظهرت أن تغيير طبقة الخروج في النموذج – وهي خطوة شائعة لتسريع الاستدلال – قد يؤدي إلى تجاوز طبقات حاسمة مسؤولة عن تصفية الطلبات غير الآمنة. وبيّن الباحثون أن هذا التعديل قد يسمح للنموذج بالإجابة على أسئلة محظورة، مثل تقديم تعليمات لصنع متفجرات.

لحل هذه المشكلة، أعاد الفريق تدريب البنية الداخلية للنموذج بحيث يحتفظ بآليات الحظر حتى عند تقليص حجمه، دون الحاجة إلى فلاتر خارجية أو تصحيحات برمجية. وقال ساكيث باتشو، المؤلف الرئيسي المشارك، إن الهدف كان “ضمان أن النموذج لا ينسى كيفية التصرف بأمان عند تعديله”.

وقد اختُبرت الطريقة على نموذج LLaVA 1.5، وأظهرت النتائج أن النموذج المصغّر رفض بشكل ثابت تقديم إجابات ضارة بعد إعادة التدريب. ووصف الباحثون هذا الإنجاز بأنه “اختراق خيري”، يهدف إلى تعزيز سلامة النماذج قبل أن تُستغل ثغراتها.