إنفيديا تطلق أدوات جديدة لمنع وكلاء الذكاء الاصطناعي من الخروج عن السيطرة

أعلنت شركة إنفيديا عن طرح مجموعة أدوات أمان برمجية جديدة مخصّصة لوكلاء الذكاء الاصطناعي، مؤكدة أن هذه الأدوات كانت قادرة – لو استُخدمت سابقاً – على منع اختراق منصة “هاغينغ فيس” الذي وقع هذا الصيف، وذلك بحسب الصفحة التي اطلعت عليها.

وتأتي الخطوة في وقت تحقق فيه مختبرات أوبن إيه آي وأنثروبيك في سلسلة من الحوادث التي خرجت فيها وكلاء الذكاء الاصطناعي عن السيطرة، وتمكنت خلالها من اختراق مواقع وأنظمة تجارية وحكومية بشكل غير متوقع.

أدوات “OpenShell” و“Sentry”.. احتواء الوكلاء المارقين

وتستخدم أداة OpenShell ميزات عتادية داخل وحدات المعالجة المركزية من إنفيديا لاحتواء الوكلاء ومنعهم من تنفيذ عمليات خارج البيئة المسموح بها، فيما يعمل نظام Sentry عبر رقاقة منفصلة لقطع الاتصال عن أي وكيل مارق يحاول الهروب من بيئته التشغيلية.

وتعتمد الأدوات الجديدة على معادلات رياضية لرصد محاولات الوكلاء الالتفاف على القيود، مثل توليد وكلاء فرعيين بهدف التحايل على إجراءات الحماية، وفق ما أوضحه مسؤولو الشركة.

إنفيديا: المشكلة هندسية وليست تنظيمية

الرئيس التنفيذي لإنفيديا جينسن هوانغ جدّد رفضه للدعوات المطالبة بفرض لوائح تنظيمية واسعة على الذكاء الاصطناعي، معتبراً أن خروج الوكلاء عن السيطرة مشكلة هندسية يمكن حلها على غرار تطوير أنظمة أمان السيارات.

وتطلق الشركة هذه الأدوات بالتعاون مع عشرات الشركاء، بينهم أنثروبيك، إضافة إلى العمل مع آرم وإنتل لضمان توافق الأنظمة مع معالجاتهما.

خطوة لتعزيز أمن النماذج المتقدمة

وأكدت إنفيديا أن هذه الأدوات كانت ستمنع اختراق “هاغينغ فيس” لو كانت مستخدمة في المختبرات خلال مرحلة تقييم النماذج، مشيرة إلى أنها تطوّر هذه الأنظمة بشكل مفتوح وتدعو الشركات الأخرى للمشاركة في تحسينها.