أنثروبيك تحذر من مخاطر الذكاء الاصطناعي وتدعو لآلية دولية

أصدرت شركة أنثروبيك تحذيراً بشأن المخاطر المتزايدة التي قد تنجم عن تطور نماذج الذكاء الاصطناعي القادرة على التحسين الذاتي المتسارع. وشددت على أهمية وجود آلية منسقة وقابلة للتحقق لإبطاء أو إيقاف تطوير الأنظمة المتقدمة مؤقتاً، إذا تجاوزت وتيرة تطورها قدرة المجتمع على إدارة المخاطر.

مخاوف من فقدان السيطرة على الأنظمة الذكية

أوضحت أنثروبيك أن الذكاء الاصطناعي القادر على بناء نفسه يمثل تحولاً تاريخياً، لكنه قد يزيد من احتمالات فقدان البشر السيطرة على الأنظمة. هذا الخطر يتعاظم بشكل خاص إذا أصبحت هذه الأنظمة قادرة على تطوير خلفائها بشكل كامل دون أي تدخل بشري.

وكشفت الشركة أن أكثر من 80% من الشيفرة البرمجية في قاعدة أنثروبيك يتم كتابتها بواسطة مساعدها الذكي المعروف باسم كلود. هذا يُظهر سرعة تطور قدرات النماذج الحالية، مما يثير القلق حول المخاطر المحتملة.

الحاجة إلى تنسيق دولي فعال

ترى أنثروبيك أن أي توقف فعّال في تطوير الذكاء الاصطناعي يتطلب اتفاقاً بين عدة مختبرات كبرى تعمل على حدود التكنولوجيا المتقدمة. ويجب أن تتضمن هذه الاتفاقات قواعد واضحة تحدد:

• متى يتم تفعيل التوقف.
• متى ينتهي.
• من الجهة المشرفة عليه.

وحذرت الشركة من أن التباطؤ الأحادي من شركة واحدة قد يكون عديم الجدوى، لأنه قد ينقل الريادة إلى جهات أخرى أقل التزاماً بالسلامة.

خطوات مقبلة لدعم آلية الإبطاء

يعتزم معهد أنثروبيك دراسة الأنظمة اللازمة لدعم آلية الإبطاء. كما تعتزم الشركة عقد مناقشات خلال الأشهر المقبلة مع صانعي السياسات والباحثين والمجتمع المدني لتطوير آليات تنسيق وإدارة مخاطر التحسين الذاتي المتكرر.

تأتي هذه الجهود في أعقاب جولة تمويل قيّمتها الشركة بنحو 96.5 مليار دولار، بالإضافة إلى تقديمها طلباً سرياً لطرح عام أولي في الولايات المتحدة.