قامت شركة “OpenAI” بحظر وإزالة حسابات مستخدمين من الصين وكوريا الشمالية ممن استخدموا روبوت الدردشة “شات جي بي تي”، حيث أشارت إلى أنها تعتقد أن هؤلاء المستخدمين كانوا يستغلون تقنيتها لأغراض ضارة، مثل المراقبة والتأثير على الرأي العام. وأوضحت الشركة في تقرير لها أن هذه الأنشطة تمثل طرقًا قد تسعى الأنظمة الاستبدادية من خلالها للاستفادة من الذكاء الاصطناعي ضد شعوبها والولايات المتحدة.
أعلنت “OpenAI” أنها استخدمت أدوات الذكاء الاصطناعي للكشف عن هذه العمليات
لكن الشركة لم توضح عدد الحسابات التي تم حظرها وإزالتها أو المدة الزمنية التي استغرقها تنفيذ هذه الإجراءات.
في إحدى الحالات، طلب مستخدمون من “شات جي بي تي” كتابة مقالات إخبارية باللغة الإسبانية تهاجم الولايات المتحدة، والتي تم نشرها من قبل وسائل إعلام رئيسية في أميركا اللاتينية تحت اسم شركة صينية.
وفي حالة أخرى، استخدمت جماعات مرتبطة بكوريا الشمالية الذكاء الاصطناعي لإنشاء سير ذاتية وحسابات مزيفة لمقدمي طلبات عمل وهميين بهدف التسلل إلى وظائف في شركات غربية بطرق احتيالية.
كما تم استخدام مجموعة من حسابات “شات جي بي تي”، التي يُعتقد أنها مرتبطة بعملية احتيال مالي في كمبوديا، تقنيات “OpenAI” لترجمة وتوليد تعليقات عبر منصات التواصل الاجتماعي مثل “إكس” (تويتر سابقًا) و”فيسبوك”.
