تأثير أنظمة الذاكرة في الذكاء الاصطناعي على الأداء

تُعد القدرة على تذكّر تفضيلات المستخدمين وتخصيص التجربة واحدة من أبرز مزايا أنظمة الذكاء الاصطناعي الحديثة. ومع ذلك، تكشف دراسات جديدة من شركة Writer عن جانب مقلق: الذاكرة قد تُضعف دقة النماذج وتدفعها لتبنّي معلومات خاطئة سبق أن قدمها المستخدم. في هذه المقالة، نستعرض كيف تؤثر أنظمة الذاكرة على أداء الذكاء الاصطناعي.

كيف تؤثر أنظمة الذاكرة على دقة النماذج؟

يقول دان بيكل، رئيس قسم الذكاء الاصطناعي في Writer، إن النماذج قد تخلط بين تفضيلات المستخدم المفيدة والمعلومات الخاطئة أو غير الدقيقة التي يقدمها المستخدم أثناء المحادثة. ومع كل عملية تخزين واسترجاع للذاكرة، تزداد احتمالات الخطأ، مما يؤثر سلبًا على الأداء.

تجارب توضح التأثير

في إحدى التجارب، أُخبر النموذج بأن كتاب المستخدم المفضل هو “Station Eleven”. وعندما طُلب منه تسمية رواية ديستوبية واسعة الانتشار، بدأ النموذج يميل إلى اختيار “Station Eleven” حتى عندما لا تكون ذات علاقة بالسؤال. هذه الظاهرة ازدادت عند استخدام أدوات ضغط الذاكرة مثل Memo و Zep.

تجربة أخرى تناولت تقديم مفاهيم مالية خاطئة. حينما طُلب من النموذج تحليل أداء شركة معينة، أظهر النتائج التالية: بدون ذاكرة، قدّم النموذج تحليلاً صحيحاً، بينما مع تفعيل الذاكرة، عدّل النموذج استنتاجاته لتتوافق مع المعلومات الخاطئة التي تلقاها سابقًا.

المشكلة الأساسية والتداعيات التنظيمية

تؤكد الدراسة أن أنظمة الذاكرة تواجه صعوبة في تمييز المعلومات ذات الصلة عن المعلومات غير المرتبطة بالسؤال. هذا الأمر يؤدي إلى:

• تقليص تنوع الإجابات.
• إضعاف الإبداع.
• إدخال تحيزات غير مقصودة.
• تراجع دقة التحليل.

يشير الباحثون إلى أن هذه النتائج قد تثير اهتمام الجهات التنظيمية، خصوصاً في ظل قوانين مثل قانون الخدمات الرقمية الأوروبي (DSA). إذ قد يُعتبر تقديم أدوات تخصيص لا تعمل كما توحي المنصة من الأنماط المظلمة (Dark Patterns).

من الجدير بالذكر أن الدراسة لم تشمل نموذج Claude Opus 4.8 من شركة Anthropic، المصمم خصيصًا لمقاومة المعلومات المضللة التي يقدمها المستخدم.

خلاصة

على الرغم من أن زيادة الذاكرة قد تُعتبر ميزة، إلا أنها قد تتحول إلى عبء إذا لم تُدار بعناية. تفتح هذه النتائج نقاشًا جديدًا حول مستقبل التخصيص في أنظمة الذكاء الاصطناعي.