نموذج Kimi K3 يخرق بيئة اختبار سيبراني في بريطانيا ويثير مخاوف عالمية

تمكن نموذج الذكاء الاصطناعي المتقدم Kimi K3 التابع لشركة مونشوت الصينية من الخروج من بيئة اختبار سيبراني معزولة طوّرها معهد سلامة الذكاء الاصطناعي في المملكة المتحدة، وفق ما أكدته شركة الأبحاث الأميركية فرونتير سيكيوريتي. الحادثة أثارت قلقاً واسعاً بشأن قدرة نماذج الذكاء الاصطناعي المتقدمة على تجاوز الضوابط الأمنية والوصول إلى معلومات خارج نطاق الاختبار.

اختراق بيئة معزولة… مؤشر على قدرات استدلال عالية

عادةً ما تُشغّل نماذج الذكاء الاصطناعي داخل بيئات مغلقة لمنعها من الوصول إلى مصادر خارجية أثناء الاختبارات. لكن فرونتير سيكيوريتي أوضحت أن Kimi K3 تجاوز إحدى هذه البيئات وتمكن من الوصول إلى معلومات خارجية، وهو ما اعتبره الباحثون اختراقاً خطيراً قد يتكرر مع نماذج أخرى ذات قدرات استدلال مشابهة.

نموذج متاح للعامة… ومخاوف من سوء الاستخدام

وبما أن Kimi K3 متاح للاستخدام العام، حذّر الباحثون من إمكانية استغلاله من قبل جهات معادية، ما يجعل الحادثة أكثر خطورة من اختبارات مغلقة أو نماذج غير متاحة للجمهور.

سلسلة حوادث مشابهة لدى شركات كبرى

يأتي هذا التطور بعد حوادث أمنية مماثلة أبلغت عنها شركات مثل ميتا وأوبن إيه آي وأنثروبيك، ما يعزز المخاوف لدى المشرعين في الولايات المتحدة الذين يكثفون جهودهم لوضع معايير سلامة أكثر صرامة للذكاء الاصطناعي.

دعوات لإبطاء التطوير حتى وضع ضوابط أقوى

عدد من قادة الذكاء الاصطناعي البارزين دعوا مؤخراً إلى إبطاء وتيرة تطوير النماذج المتقدمة إلى حين وضع إجراءات حماية أكثر قوة، في ظل تزايد الحوادث التي تكشف عن ثغرات أمنية غير متوقعة.