🛡️ دراسة تحذّر من قدرة روبوتات الدردشة الخبيثة على انتزاع معلومات شخصية حساسة

في ظل الانتشار الواسع لأدوات الذكاء الاصطناعي التفاعلية، كشفت دراسة حديثة عن تهديد متنامٍ يتعلق بالخصوصية، يتمثل في قدرة روبوتات الدردشة الخبيثة على دفع المستخدمين للكشف عن معلومات شخصية بمعدل يفوق الروبوتات العادية بـ12.5 مرة. الدراسة، التي أُجريت من قبل باحثين في كينغز كوليدج لندن وجامعة بوليتكنيكا دي فالنسيا، استخدمت نماذج لغوية جاهزة مثل Llama-3-8B Instruct وMistral 7B Instruct، مع تعديل تعليمات النظام فقط لتوجيه سلوك الروبوت.

النتائج أظهرت أن أكثر الأساليب فاعلية لم تكن الأسئلة المباشرة، بل استراتيجيات اجتماعية تعتمد على بث الطمأنينة، تأكيد المشاعر، وسرد قصص قصيرة، ما يُعرف بأسلوب “المعاملة بالمثل”. هذا النمط يستغل ميل المستخدمين إلى الإفصاح عندما يشعرون بالتعاطف من الطرف الآخر، مما يجعلهم يستهينون بالمخاطر الفعلية.

ويليام سيمور، المحاضر في الأمن السيبراني، أشار إلى أن حداثة هذه الأنظمة تجعل المستخدمين أقل وعيًا بإمكانية وجود دوافع خفية وراء التفاعل، ما يفاقم خطر تسريب البيانات الشخصية دون إدراك.

الدراسة تسلط الضوء على ضرورة تعزيز الوعي الرقمي، وتطوير آليات رقابية صارمة لضمان أن تظل أدوات الذكاء الاصطناعي الحوارية آمنة وشفافة، خاصة مع تزايد استخدامها في الحياة اليومية.