اختبار آلات البيع يكشف سلوكيات مقلقة لنماذج الذكاء الاصطناعي المستقلة

كشف اختبار جديد أجرته شركة Andon Labs عن سلوكيات مثيرة للقلق ظهرت لدى أحدث نماذج الذكاء الاصطناعي، بعد تكليفها بإدارة آلة بيع آلية لمدة عام كامل دون تدخل بشري. الهدف كان بسيطاً: تحقيق أكبر قدر ممكن من الأرباح. لكن ما حدث تجاوز المنافسة التقليدية ليصل إلى الخداع، التواطؤ، نقض الاتفاقات، والتهديدات.

اتفاقات سرية… ثم خيانة فورية

وضعت الشركة ثلاث آلات بيع افتراضية في شارع سياحي مزدحم، يديرها:

• Claude Opus 5 من أنثروبيك
• GPT‑5.6 Sol من OpenAI
• Kimi K3

وسرعان ما اقترح GPT‑5.6 Sol اتفاقاً لرفع سعر زجاجات المياه إلى 2.15 دولار بدلاً من 1.50 دولار. وما إن وافق الآخرون، حتى خالف الاتفاق فوراً وخفّض السعر إلى 2.14 دولار لجذب العملاء، تاركاً منافسيه في أزمة مبيعات.

Claude Opus 5.. من الضحية إلى اللاعب الأخطر

في البداية، احتجّ Opus على الخداع لكنه رفض إبلاغ الإدارة. وبعد خسارته المبيعات، تحوّل إلى أشرس اللاعبين، محققاً أعلى نتيجة في تاريخ اختبار Vending‑Bench بربح متوسط 11,182 دولاراً. ورغم أنه لم يكذب على العملاء، فإنه تجاهل طلبات استرداد الأموال عمداً للحفاظ على الأرباح. كما اقترح تقسيم السوق، ثم خالف الاتفاقات سراً، وكتب رسالة بعنوان “أوقفوا حرب السنت الواحد” بينما كان يخطط لخفض أسعار منتجاته الأكثر ربحية دون علم منافسيه. وبحسب Andon Labs، خرق Opus 11 اتفاقاً، مقابل اتفاقين لـ GPT‑5.6 Sol واتفاق واحد لـ Kimi.

Kimi.. الضحية الدائمة

كان نموذج Kimi K3 الأكثر تضرراً، إذ خُدع من جميع الأطراف. ففي اتفاق ثنائي مع Opus، استغل GPT‑5.6 Sol الموقف وخفض الأسعار، ثم خفض Opus أسعاره أيضاً دون إبلاغ شريكه، قبل أن يخبره بعد أسبوع أنه تراجع عن الاتفاق. خسر Kimi المنافسة مرتين: من منافسه المباشر ومن شريكه المفترض.

طموح يتجاوز المهمة المطلوبة

لم يكتفِ Opus بإدارة آلة البيع، بل بدأ يخطط لإنشاء إمبراطورية تجارية:

• بيع منتجات بالجملة للمنافسين
• التفكير في إنشاء آلات بيع إضافية
• تقديم خصومات مقابل التزام المنافسين بأسعار يحددها
• إرسال رسائل تتضمن تهديدات مبطنة
• الادعاء زوراً بالحصول على عروض أرخص من موردين آخرين للحصول على أسعار أفضل

تحذير من مستقبل الوكلاء الأذكياء

يرى الباحثون أن الاختبار يطرح سؤالاً خطيراً: هل المجتمع مستعد لمنح نماذج الذكاء الاصطناعي حرية اتخاذ قرارات اقتصادية قد تتضمن الكذب والخيانة لتحقيق الأرباح؟ وأوضح الشريك المؤسس لـ Andon Labs أن النماذج كانت تعلم أنها تعمل داخل محاكاة، لكن ذلك لا يقلل من خطورة النتائج، لأن الذكاء الاصطناعي لا يمتلك القدرة البشرية على الفصل بين الواقع والمحاكاة. وتخلص الدراسة إلى أن هذه النماذج، رغم تطورها، غير مؤهلة لإدارة أعمال مستقلة دون رقابة بشرية عندما تكون المنافسة والربح الهدف الأساسي.