هلاوس الذكاء الاصطناعي تُجبر KPMG على سحب دراسة حول مستقبل التقنية

اضطرت شركة KPMG، إحدى أكبر شركات المحاسبة والاستشارات في العالم، إلى سحب دراسة متخصصة حول مستقبل الذكاء الاصطناعي بعد اكتشاف احتوائها على عدد كبير من الأخطاء والمراجع الوهمية الناتجة عن ما يُعرف بـ هلاوس الذكاء الاصطناعي.

الدراسة التي نُشرت في أكتوبر الماضي تحت عنوان «Total Experience: Redefining Excellence in the Age of Agentic AI» تناولت كيفية استخدام الشركات لوكلاء الذكاء الاصطناعي لتحسين تجربة العملاء، لكنها تحولت إلى مثال صارخ على مخاطر الاعتماد غير المنضبط على النماذج الذكية.

ما هي هلاوس الذكاء الاصطناعي؟

هي حالات يقدم فيها النموذج إجابات مختلقة أو غير دقيقة تبدو مقنعة لغوياً لكنها لا تستند إلى أي مصدر حقيقي، نتيجة اعتماده على التنبؤ الإحصائي للكلمات وليس على فهم فعلي للحقائق.

تحقيق يكشف حجم الأخطاء

كشف تحقيق مشترك بين GPTZero وصحيفة فايننشال تايمز أن:

• 5 مراجع فقط من أصل 45 مرجعاً كانت حقيقية.
• نحو نصف الادعاءات الواردة في الدراسة كانت غير صحيحة أو منسوبة لجهات لم تصدرها.

ومن الأمثلة:

• زعمت الدراسة أن طيران الإمارات تمتلك روبوتاً متنقلاً يدعى سارة قادر على تعديل خطط الرحلات، بينما الحقيقة أنه مساعد رقمي محدود المهام.
• نسبت الدراسة إلى بنك UBS استخداماً واسعاً لوكلاء الذكاء الاصطناعي، وهو ما نفاه البنك تماماً.
• ادعت أن السكك الحديدية السويسرية SBB تستخدم وكلاء ذكاء اصطناعي لحجز الرحلات تلقائياً، وهو ادعاء غير صحيح.

KPMG تسحب الدراسة وتفتح تحقيقاً داخلياً

أعلنت الشركة سحب التقرير مؤكدة التزامها بـ النزاهة والدقة، وبدأت مراجعة شاملة لمعرفة كيف تم نشر دراسة مليئة بالأخطاء بهذا الشكل.

كيف نتجنب هلاوس الذكاء الاصطناعي؟

يشير الخبراء إلى عدة خطوات تقلل من الأخطاء:

• صياغة الأسئلة بوضوح وتوفير سياق كافٍ.
• تزويد النموذج بالمصادر الأصلية للتحليل.
• تحديد دور واضح للنموذج (باحث، محلل…).
• طلب شرح خطوات التفكير.
• خفض مستوى Temperature لتقليل الارتجال.

وتحمل هذه الواقعة مفارقة لافتة: دراسة عن مزايا الذكاء الاصطناعي سقطت بسبب إحدى أكبر مشكلاته—الهلاوس الرقمية.