هلاوس الذكاء الاصطناعي تجبر KPMG على سحب دراسة تقنية

أعلنت شركة KPMG، إحدى أكبر شركات المحاسبة والاستشارات في العالم، عن سحب دراسة متخصصة تناولت مستقبل الذكاء الاصطناعي. جاء هذا القرار بعد اكتشاف احتواء الدراسة على عدد كبير من الأخطاء والمراجع الوهمية، نتيجة ما يُعرف بـ “هلاوس الذكاء الاصطناعي”.

محتوى الدراسة وأهمية الموضوع

الدراسة، التي نُشرت في أكتوبر الماضي تحت عنوان «Total Experience: Redefining Excellence in the Age of Agentic AI»، تناولت كيفية استخدام الشركات لوكلاء الذكاء الاصطناعي لتحسين تجربة العملاء. ومع ذلك، تحولت إلى مثال صارخ على مخاطر الاعتماد غير المنضبط على النماذج الذكية.

ما هي هلاوس الذكاء الاصطناعي؟

تشير “هلاوس الذكاء الاصطناعي” إلى حالات يقدم فيها النموذج إجابات مختلقة أو غير دقيقة، تبدو مقنعة لغوياً لكنها لا تستند إلى أي مصادر حقيقية. يعود ذلك إلى اعتماده على التنبؤ الإحصائي للكلمات بدلاً من الفهم الفعلي للحقائق.

تحقيق يكشف حجم الأخطاء

كشف تحقيق مشترك بين GPTZero وصحيفة فايننشال تايمز أن:

• فقط 5 مراجع من أصل 45 كانت حقيقية.
• نحو نصف الادعاءات الواردة في الدراسة كانت غير صحيحة أو منسوبة لجهات لم تصدرها.

على سبيل المثال، زعمت الدراسة أن طيران الإمارات تمتلك روبوتاً متنقلاً يدعى سارة قادر على تعديل خطط الرحلات. بينما الحقيقة أنه مساعد رقمي محدود المهام. كما نفى بنك UBS استخداماً واسعاً لوكلاء الذكاء الاصطناعي، وهو ما جاء في الدراسة. بالإضافة إلى ذلك، ادعت الدراسة أن السكك الحديدية السويسرية SBB تستخدم وكلاء ذكاء اصطناعي لحجز الرحلات تلقائياً، وهو ادعاء غير صحيح.

خطوات لتجنب هلاوس الذكاء الاصطناعي

أعلنت KPMG سحب التقرير وأكدت التزامها بالنزاهة والدقة. وقد بدأت الشركة بمراجعة شاملة لمعرفة كيف تم نشر دراسة مليئة بالأخطاء. يشير الخبراء إلى عدة خطوات يمكن أن تساعد في تقليل الأخطاء الناتجة عن هلاوس الذكاء الاصطناعي:

• صياغة الأسئلة بوضوح وتوفير سياق كافٍ.
• تزويد النموذج بالمصادر الأصلية للتحليل.
• تحديد دور واضح للنموذج، مثل باحث أو محلل.
• طلب شرح خطوات التفكير.
• خفض مستوى Temperature لتقليل الارتجال.

تحمل هذه الواقعة مفارقة لافتة، حيث سقطت دراسة عن مزايا الذكاء الاصطناعي بسبب إحدى أكبر مشكلاته، وهي الهلاوس الرقمية.