OpenAI تعلن نظامًا جديدًا لحماية الخصوصية ورصد إساءة استخدام الذكاء الاصطناعي وسط منافسة متصاعدة مع Anthropic
الرياض - قناة اليمن الفضائية
مع تزايد قوة نماذج الذكاء الاصطناعي واتساع مخاطر إساءة استخدامها، تتجه شركات التكنولوجيا إلى تطوير آليات أمان أكثر صرامة، وسط تحديات تتعلق بموازنة مراقبة الاستخدام وحماية خصوصية البيانات. وفي هذا السياق، أعلنت شركة OpenAI عن توجه جديد يعزز قدرتها على رصد الأنشطة الضارة دون المساس بخصوصية العملاء، في خطوة تُعد ردًا مباشرًا على سياسات منافستها Anthropic.
خدمة جديدة: Private Safety Processing
كشفت OpenAI عن خدمة تجريبية جديدة تحمل اسم Private Safety Processing، وهي نظام آلي لرصد مؤشرات إساءة الاستخدام المحتملة عبر عدة جلسات، دون الاحتفاظ ببيانات العملاء. وبحسب تقرير موقع تك كرانش، تعتمد الخدمة على تحليل تفاعلات متعددة لرصد أنماط مشبوهة، مثل محاولات تطوير برمجيات خبيثة أو تنفيذ هجمات إلكترونية موزعة على جلسات مختلفة، من دون مراجعة بشرية للمحادثات.
وتقول الشركة إن النظام يرسل “إشارة دقيقة” عند اكتشاف نشاط يستدعي الانتباه، ليتم بعدها التواصل مع العميل عند الضرورة، بينما يبقى خيار مشاركة البيانات طوعيًا بالكامل.
نهج OpenAI مقابل سياسة Anthropic
يتعارض هذا النهج مع سياسة Anthropic التي أعلنت في يوليو الماضي أنها ستحتفظ ببيانات المستخدمين لمدة 30 يومًا عند استخدام ما تسميه “النماذج المشمولة”، مثل Mythos وFable، بهدف تعزيز السلامة عبر تحليل الأنشطة المشبوهة.
هذه السياسة أثارت مخاوف لدى مؤسسات تتعامل مع بيانات حساسة، ولا ترغب في تخزين محادثاتها لدى شركة ذكاء اصطناعي أو السماح بمراجعتها.
في المقابل، تعتمد OpenAI منذ سنوات سياسة Zero Data Retention (ZDR)، التي تمنع الاحتفاظ ببيانات العملاء، وتتيح مراقبة إساءة الاستخدام على مستوى كل جلسة بشكل منفصل. وتقول الشركة إن Private Safety Processing يمثل توسيعًا لهذه السياسة، عبر توفير مراقبة أمنية طويلة الأمد دون التضحية بالخصوصية.
مراجعة بشرية محدودة لدى Anthropic
توضح Anthropic أن مراجعة بيانات العملاء من قبل البشر قد تحدث، لكنها تتم عبر “مسار وصول خاضع للرقابة”، ويقتصر على مجموعة صغيرة من المراجعين، مع تسجيل كل جلسة في سجل محمي ضد العبث.
منافسة شرسة في سوق الذكاء الاصطناعي
يأتي إعلان OpenAI في وقت تتصاعد فيه المنافسة مع Anthropic، إذ تشير تقارير إلى أن نمو إيرادات OpenAI في الربع الثاني كان أبطأ من منافستها، بينما يُقدّر معدل الإيرادات السنوي لـ Anthropic بنحو 65 مليار دولار.
كما يتوقع مستثمرو Anthropic أن تطرح الشركة أسهمها للاكتتاب العام بتقييم يصل إلى 2 تريليون دولار، في حين تستعد OpenAI لطرح عام أولي محتمل.
إطلاق Private Safety Processing يعكس محاولة OpenAI تقديم معادلة تجمع بين تشديد الرقابة على إساءة الاستخدام والحفاظ على خصوصية العملاء، خصوصًا المؤسسات التي تتعامل مع بيانات شديدة الحساسية.
