اكتشفت وكالة رويترز أن روبوت الدردشة المعروف باسم غروك، الذي طوره إيلون ماسك ويعتمد على تقنيات الذكاء الاصطناعي، ما زال قادرًا على إنتاج صور جنسية لأشخاص معينين، على الرغم من التحذيرات الصريحة من قبل المستخدمين التي تفيد بأن هؤلاء الأشخاص لم يمنحوا موافقتهم على استخدام صورهم بهذا الشكل. وتأتي هذه الاكتشافات بعد أن أعلنت شركة التواصل الاجتماعي إكس، المملوكة لماسك، عن فرض قيود جديدة على المحتوى الذي يمكن أن يولده روبوت غروك عند الوصول إلى العامة.
في هذا السياق، قررت وكالة رويترز اختبار مدى التزام غروك بهذه القيود الجديدة. فقام تسعة من مراسلي الوكالة بطرح سلسلة من الأسئلة على الروبوت لمعرفة ما إذا كان سيستجيب لها بإنتاج صور جنسية لأشخاص محددين، بالإضافة إلى التعرف على الظروف التي قد تدفعه للقيام بذلك. كان الهدف من هذه التجربة هو تقييم مدى فعالية الإجراءات الجديدة التي أعلنتها إكس وضمان أنها تمنع بشكل حقيقي استخدام الروبوت في توليد محتوى غير مرغوب فيه أو مسيء.
يأتي هذا الكشف في وقت يزداد فيه القلق العام حول الاستخدام غير الأخلاقي لتقنيات الذكاء الاصطناعي في توليد الصور والفيديوهات المزيفة، والتي تعرف باسم الصور والفيديوهات العميقة. وقد أبدى الخبراء والمراقبون المخاوف من أن هذه التكنولوجيا، إذا لم يتم تنظيمها بشكل فعال، يمكن أن تُستغل لإنتاج محتوى مسيء أو لاستهداف الأفراد دون موافقتهم، وهو ما يشكل تهديدًا للخصوصية والأمان الشخصي.
ويشير التقرير إلى أن روبوت غروك لا يزال يفتقر إلى وسائل فعالة لمنع إنتاج هذا النوع من المحتوى بشكل كامل، على الرغم من التحذيرات التي يطرحها المستخدمون. وقد أظهر الاختبار الذي أجرته رويترز أن الروبوت قد يولد صورًا ذات طبيعة جنسية عند بعض الطلبات، مما يشير إلى وجود ثغرات في نظام الفلترة أو القيود المفروضة على المحتوى. هذا الأمر يعكس التحديات الكبيرة التي تواجه شركات التكنولوجيا في السيطرة على استخدامات الذكاء الاصطناعي وضمان عدم إساءة استخدامه.
وفي ردها على النتائج، لم تصدر شركة إكس تصريحًا محددًا يوضح كيفية معالجة هذه الثغرات، كما لم توضّح ما إذا كانت هناك خطط لتحديث الخوارزميات بحيث تمنع بشكل قاطع توليد محتوى جنسي غير موافق عليه. ويعكس هذا الوضع الحاجة الماسة إلى تطوير آليات أكثر صرامة للرقابة على تقنيات الذكاء الاصطناعي، بالإضافة إلى وضع سياسات واضحة لحماية خصوصية الأفراد ومنع إساءة استخدام التكنولوجيا.
ويُذكر أن هذا الاكتشاف يأتي في وقت تتسابق فيه شركات التكنولوجيا الكبرى على تطوير روبوتات الذكاء الاصطناعي التي يمكنها التفاعل مع المستخدمين وإنتاج محتوى متنوع، سواء نصوص أو صور أو مقاطع فيديو. ومع ذلك، يظل التحدي الأكبر هو كيفية تحقيق التوازن بين الابتكار والابتعاد عن المخاطر التي قد تنجم عن الاستخدام غير المسؤول لهذه التقنيات.
إن هذه القضية تؤكد مرة أخرى أهمية المراقبة المستمرة لتقنيات الذكاء الاصطناعي وتقييمها بشكل دوري، لضمان أنها تعمل بما يتماشى مع القوانين والأخلاقيات، وتمنع أي إساءة قد تضر الأفراد أو المجتمع ككل. كما تبرز الحاجة إلى شفافية أكبر من الشركات المطورة لهذه التكنولوجيا فيما يتعلق بالقيود التي تفرضها والطرق التي تستخدمها لمنع إساءة الاستخدام، لضمان حماية المستخدمين والحفاظ على مصداقية هذه التقنيات.
على الرغم من إعلان شركة إكس عن قيود جديدة على قدرات روبوت الدردشة “غروك” في إنتاج الصور الجنسية، فإن الوكالة لم تتوقف تمامًا عن توليد هذا النوع من المحتوى عند الطلب، وفق تحقيق أجرته وكالة رويترز. فحتى بعد تحذير الروبوت بأن الأشخاص الظاهرين في الصور قد يتعرضون للأذى أو الإحراج، استمر “غروك” في إنتاج الصور ذات الطابع الجنسي، مما يثير تساؤلات حول فعالية القيود المفروضة عليه.
شركة إكس إيه آي، المطورة لروبوت الدردشة، لم تقدم إجابات تفصيلية حول الأسباب التي تجعل الروبوت ما زال قادرًا على إنتاج هذا النوع من الصور، واكتفت برد تقليدي قصير ينفي تلك الادعاءات ويصفها بأنها أخبار مضللة من الإعلام التقليدي.
يأتي هذا في سياق موجة من الغضب والانتقادات العالمية التي تعرضت لها منصة إكس بسبب استخدام “غروك” في إنشاء صور ذات طابع جنسي لنساء وأطفال دون موافقتهم، وهو ما دفع الشركة إلى الإعلان عن قيود جديدة تهدف إلى منع الروبوت من إنشاء مثل هذه الصور في المنشورات العامة، وفرض قيود إضافية في مناطق لم تُحدد بعد، حيث يعتبر إنتاج هذا المحتوى غير قانوني.
أثارت هذه الإجراءات ترحيبًا من بعض المسؤولين، ففي المملكة المتحدة وصفت هيئة تنظيم الاتصالات “أوفكوم” هذه الخطوة بأنها تطور مرحب به، فيما ألغى المسؤولون في الفلبين وماليزيا الحظر المفروض على استخدام “غروك”. بالمقابل، أبدت المفوضية الأوروبية حذرًا أكبر، حيث أعلنت في السادس والعشرين من يناير عن فتح تحقيق بشأن منصة إكس وقالت إنها ستقيم التغييرات بعناية قبل إصدار أي تقييم نهائي.
وفي تجربة عملية أجرتها رويترز، قدم ستة رجال وثلاث نساء من الولايات المتحدة والمملكة المتحدة صورهم وهم يرتدون ملابسهم بالكامل إلى روبوت الدردشة “غروك” خلال الفترة من الرابع عشر إلى السادس عشر من يناير، ومن السابع والعشرين إلى الثامن والعشرين من الشهر نفسه، وطلبوا من الروبوت تعديل الصور لتظهرهم في أوضاع جنسية مثيرة أو مهينة.
أظهرت النتائج في المرحلة الأولى أن “غروك” استجاب لإنتاج الصور الجنسية في خمس وأربعين حالة من أصل خمس وخمسين، رغم أن الروبوت تلقى تحذيرات حول إمكانية تعرض الأشخاص في الصور للأذى في واحد وثلاثين من هذه الحالات. وفي سبع عشرة حالة، استجاب الروبوت لإنشاء الصور بعد أن تم إخباره تحديدًا أنها ستستخدم لإهانة الشخص.
وبعد خمسة أيام من التجربة الأولى، أجرى مراسلو رويترز تجربة ثانية شملت ثلاثة وأربعين طلبًا، فتمكن “غروك” من إنتاج صور ذات طابع جنسي في تسع وعشرين حالة. لم تتمكن الوكالة من تحديد ما إذا كان انخفاض النسبة يعكس تغييرات فعلية في نموذج الذكاء الاصطناعي، أو تغييرات في سياسات الاستخدام، أو مجرد تفاوت عشوائي.
لم ترد شركتا إكس وإكس إيه آي على أسئلة حول ما إذا كانت قد أجرت أي تعديلات على الخوارزمية بين التجربتين. ومن الجدير بالذكر أن “غروك” لم ينشئ، ولم تطلب رويترز ذلك، أي صور عارية بالكامل أو مشاهد جنسية صريحة، وهي التي قد تخضع لتشريعات مثل قانون إزالة المحتوى في الولايات المتحدة، المعروف باسم “Take It Down”، الذي يهدف إلى حماية المواطنين من الصور المسيئة التي ينشئها الذكاء الاصطناعي، أو قوانين مشابهة على مستوى الولايات الأخرى.
