مايكروسوفت تحذر من منح وكلاء الذكاء الاصطناعي صلاحيات واسعة دون رقابة مستقلة

وأوضحت الشركة أن الطبيعة غير المتوقعة لبعض أنظمة الذكاء الاصطناعي قد تؤدي إلى أخطاء خطيرة عند تمكينها من تنفيذ المهام والوصول إلى البيانات الحساسة بصورة مستقلة، ما يستدعي وجود أنظمة رقابية وأمنية منفصلة تتولى الإشراف على سلوكها.

وأكد نائب رئيس مايكروسوفت، نديم عبدو، ضرورة الفصل بين قدرات الذكاء الاصطناعي وأنظمة الأمن المسؤولة عن التحكم فيها، مشيراً إلى أن الشركات لا ينبغي أن تعتمد على الجهة المطورة للنموذج وحدها في مراقبة التزامه بقواعد الأمان.

وفي هذا الإطار، تعمل مايكروسوفت على تطوير أدوات رقابية جديدة ضمن مشروع “Project Perception”، تشمل ما يعرف بـ”الوكلاء الحراس” (Guardian Agents)، وهي أنظمة مصممة لمراقبة أداء وكلاء الذكاء الاصطناعي واكتشاف أي سلوك غير معتاد والتدخل قبل وقوع أضرار محتملة.

كما تتيح المنظومة الأمنية الجديدة تطبيق صلاحيات وصول ديناميكية، بحيث يحصل الوكيل الذكي على الحد الأدنى من الصلاحيات اللازمة لإنجاز المهمة المكلف بها، قبل تقليصها أو سحبها فور انتهاء المهمة.

وتتضمن الإجراءات المقترحة آليات لعزل الوكلاء الذكيين أو تقييد وصولهم إلى البيانات والأنظمة، أو اشتراط موافقة بشرية لمواصلة بعض المهام، وصولاً إلى إيقافهم بالكامل عند الضرورة.

وأشارت مايكروسوفت إلى أن هذه الجهود تأتي بالتعاون مع شركات تقنية أخرى، من بينها إنفيديا، ضمن مبادرات تهدف إلى تعزيز سلامة وكلاء الذكاء الاصطناعي وضمان بقائهم تحت السيطرة مع توسع استخدامهم في إدارة المهام والأنظمة الحساسة.

وأكدت الشركة أن كفاءة نماذج الذكاء الاصطناعي وحدها لم تعد كافية، وأن المرحلة المقبلة تتطلب رقابة مستقلة وصلاحيات محدودة وآليات تدخل فعالة لضمان الاستخدام الآمن لهذه التقنيات المتقدمة.