كشفت شركة OpenAI مؤخرًا عن تعطيل المزيد من الحسابات، التي نشأت في الصين، كانت تستغل نماذجها اللغوية الكبيرة، مثل ChatGPT، في جهود تستهدف مراقبة وسائل التواصل الاجتماعي والأنشطة المرتبطة بها، بحسب موقع gadgets360 الهندى.
وفى إحدى الحالات المحددة، أوضحت الشركة أن حسابًا محظورًا الآن كان يستخدم البرنامج للمساعدة في صياغة مواد ترويجية وخطط عمل لأداة “استماع” مصممة للزحف على منصات مثل X، فيسبوك، إنستجرام، ريديت، تيك توك، ويوتيوب.
وكان الهدف من هذه الأداة هو البحث عن محتوى سياسي أو عرقي أو ديني محدد، ويُعتقد أن هذا العمل كان يتم لصالح عميل حكومي صيني، على الرغم من أن OpenAI لم تتمكن من التحقق بشكل مستقل من ذلك.
استخدامات ضارة أخرى: تتبع الأفراد وتطوير البرمجيات الخبيثة
لم يقتصر الأمر على جهود المراقبة العامة، فقد حظرت OpenAI أيضًا حسابًا كان يُستخدم لتطوير مقترح لأداة تُوصف بأنها “نموذج تحذير من تدفقات عالية الخطورة مرتبطة بالأويغور وهم فئة من الاتراك تعرف بأنها فى تحد مع الصين ، كان الهدف من هذه الأداة المساعدة في تتبع تحركات الأفراد “المرتبطين بالأويغور”، الأمر الذي يتسق مع اتهامات انتهاكات حقوق الإنسان الموجهة ضد الصين في هذا الشأن.
علاوة على ذلك، كشف تقرير الشركة عن ضبط مطورين ناطقين بالروسية، والكورية، والصينية يستغلون ChatGPT لتطوير البرمجياتالخبيثة (Malware)، كما تم تعطيل شبكات كاملة في كمبوديا، وميانمار، ونيجيريا كانت تستخدم الذكاء الاصطناعي لإنشاء عمليات احتيال منظمة بهدف الاحتيال على الناس.
استمرار حملات التأثير الإلكتروني
يأتي هذا التقرير كجزء من جهود OpenAI المستمرة لنشر تقارير التهديدات منذ فبراير 2024، وتشير الشركة إلى أنها خلال الصيف، عطلت عمليات غى عدد من الدول كانت تستخدم ChatGPT لدعم حملات التأثير الإلكترونى ، حيث استُخدم المحتوى المُولّد بالذكاء الاصطناعي لإنشاء منشورات وتعليقات على منصات التواصل الاجتماعي بهدف إثارة الانقسام وتحفيز التفاعل، سواء داخل بلدانهم الأصلية أو على الصعيد الدولي.
ومع ذلك، وعلى الرغم من الاستخدامات الضارة، تُشير OpenAI إلى أن معدل استخدام ChatGPT للكشف عن عمليات الاحتيال هو ثلاثة أضعاف معدل استخدامه في إنشائها.
