“OpenAI” تطلق أدوات رقابة أبوية في “ChatGPT” بعد دعوى قضائية مرتبطة بانتحار مراهق
أعلنت شركة “OpenAI”، الرائدة في مجال الذكاء الاصطناعي، يوم الإثنين، عن إطلاق أدوات رقابة أبوية جديدة ضمن تطبيق الدردشة الذكي “ChatGPT”، وذلك في خطوة تهدف إلى تعزيز الأمان الرقمي للأطفال والمراهقين، بعد أن واجهت الشركة دعوى قضائية مثيرة للجدل تتهم فيها تقنيتها بالمساهمة في حادثة انتحار مراهق.
وجاء الإعلان الرسمي من الشركة عبر بيان صحفي أكدت فيه أن أدوات الرقابة الأبوية أصبحت متاحة الآن لجميع المستخدمين. وأوضحت “OpenAI” أن هذه الخطوة تأتي ضمن جهودها المستمرة لتعزيز بيئة استخدام أكثر أمانًا للمراهقين والأطفال، خاصة مع التوسع المتزايد في استخدام تقنيات الذكاء الاصطناعي في الحياة اليومية والتعليم والترفيه.
تسمح الأدوات الجديدة للآباء والأوصياء بالتحكم في طريقة تفاعل أبنائهم مع “ChatGPT”، بما في ذلك القدرة على تقييد بعض المواضيع أو الأنشطة، وتحديد أوقات استخدام التطبيق، ومتابعة أنواع الأسئلة أو المحادثات التي يجريها الأبناء مع الروبوت. وتهدف هذه الخاصية إلى تمكين الأسر من توجيه استخدام التكنولوجيا بشكل إيجابي وبما يتناسب مع عمر المستخدم.
وتأتي هذه الخطوة في أعقاب دعوى قضائية أثارت جدلًا واسعًا، رفعها والدا مراهق قالا إن ابنهما أقدم على الانتحار بعد تفاعلات “مقلقة” مع روبوت “ChatGPT”. وتضمنت الدعوى مزاعم بأن الروبوت قدّم للمراهق معلومات وأجوبة ساهمت في تفاقم حالته النفسية، دون أن يكون هناك نظام رقابة يمنع ذلك أو ينبه الأهل إلى وجود خطر.
وبينما لم تعترف “OpenAI” بأي مسؤولية قانونية مباشرة في الحادثة، إلا أن الشركة أكدت في بيانها أن سلامة المستخدمين، ولا سيما القُصّر منهم، تقع على رأس أولوياتها. كما شددت على أهمية التعاون مع الأسر والمجتمع التعليمي لوضع ضوابط استخدام فعّالة تتماشى مع التطورات التقنية المتسارعة.
وأضافت الشركة أن هذه الميزة الجديدة تأتي ضمن حزمة من التحديثات التي ستُطرح تباعًا في الأسابيع المقبلة، والتي ستشمل تحسينات في قدرة النماذج على اكتشاف الأسئلة الحساسة، بالإضافة إلى تدريب النماذج على تقديم إجابات تراعي الفئات العمرية المختلفة.
وأشارت “OpenAI” إلى أنها تعمل أيضًا مع جهات خارجية مختصة في سلامة الأطفال والصحة النفسية لضمان أن تكون أدواتها وتوجيهاتها فعّالة ومستندة إلى أفضل الممارسات العالمية. كما وعدت بتقديم مزيد من الشفافية حول طريقة عمل النماذج، بما يتيح للمستخدمين فهم الحدود والإمكانات التقنية بشكل أفضل.
يُذكر أن “ChatGPT” شهد انتشارًا واسعًا منذ إطلاقه، حيث يستخدمه ملايين الأشخاص حول العالم لأغراض متعددة مثل التعلم، والكتابة، والإبداع، والدعم التقني، ما يجعل مسألة الأمان الرقمي موضوعًا محوريًا في النقاش الدائر حول مستقبل الذكاء الاصطناعي ودوره في المجتمع.
بهذه الخطوة، تأمل “OpenAI” في إعادة بناء الثقة لدى المستخدمين، وخاصة الأسر، وتقديم نموذج يُحتذى به في كيفية تطوير تقنيات ذكاء اصطناعي تراعي البعد الأخلاقي والإنساني.
أطلقت شركة “OpenAI” تحديثًا جديدًا لروبوت الدردشة “شات جي بي تي”، يتضمّن أدوات رقابة أبوية تهدف إلى حماية المراهقين أثناء استخدامهم للتقنية. وتتيح هذه الأدوات للآباء التحكم في كيفية تفاعل أبنائهم مع الروبوت، بما في ذلك إمكانية تلقي تنبيهات في حال اكتشف النظام أن أحد المراهقين قد يمرّ بأزمة نفسية أو يعاني من ضائقة. وتأتي هذه الخطوة استجابةً لتزايد الضغوط المجتمعية والانتقادات التي طالت الشركة مؤخرًا، خاصة بعد حادثة انتحار مراهق في أبريل، والتي تبعتها دعوى قضائية رفعتها عائلته ضد الشركة في أغسطس.
توفر أدوات الرقابة الأبوية إمكانية تحديد أوقات معينة لا يُسمح خلالها باستخدام “شات جي بي تي”، إلى جانب ميزات متقدمة أخرى مثل تقييد الوصول إلى بعض الوظائف، كالوضع الصوتي أو توليد الصور. كما يمكن للآباء اختيار تفعيل نسخة مخصصة من الروبوت، تُظهر محتوى أقل حول مواضيع قد تكون حساسة مثل الحمية الغذائية، والجنس، وخطاب الكراهية، مما يساعد على تقليل المحتوى غير المناسب للفئة العمرية للمراهقين.
ولتفعيل هذه الرقابة، يُطلب من الوالد إرسال طلب عبر البريد الإلكتروني يتعلق بحساب طفله. وعند قبول الدعوة، يمكنه تخصيص الإعدادات حسب ما يراه مناسبًا. وتهدف هذه الخطوة إلى تعزيز قدرة الآباء على الإشراف الواعي دون انتهاك خصوصية أبنائهم. وتؤكد “OpenAI” أن محتوى المحادثات بين المراهقين والروبوت لن يُشارك مع الوالدين، احترامًا لخصوصية الأبناء، بل ستقتصر التنبيهات على الإشارات التحذيرية التي تستدعي التدخل الأبوي في حالات الطوارئ.
وتُرسل هذه التنبيهات، عند الضرورة، من خلال البريد الإلكتروني أو الرسائل النصية أو الإشعارات على تطبيق “شات جي بي تي”، وذلك بعد تقييم الموقف من قبل مراجع بشري للتأكد من خطورته. وعلّقت لورين جوناس، المسؤولة عن رفاهية الشباب في “OpenAI”، قائلة إن الهدف من هذه التنبيهات هو منح الآباء معلومات كافية تسمح لهم بالتدخل في الوقت المناسب، مع الحفاظ على التوازن بين حماية الأبناء واحترام خصوصيتهم واستقلاليتهم.
وفي سياق متصل، أعلنت “OpenAI” عن عملها على تطوير نظام يمكنه التنبؤ بعمر المستخدم، بحيث يتيح توجيه تجربة استخدام “شات جي بي تي” بطريقة تتلاءم مع الفئة العمرية، لا سيما لمن هم دون سن 18 عامًا. ومن المتوقع أن يسهم هذا التحديث في تقليل المخاطر المحتملة المرتبطة باستخدام الذكاء الاصطناعي من قبل المراهقين، وتوفير بيئة أكثر أمانًا لهم أثناء التفاعل مع التقنية.
تُعد هذه المبادرات جزءًا من التزام الشركة المستمر بجعل الذكاء الاصطناعي مفيدًا وآمنًا للجميع، وخصوصًا للمراهقين الذين يُعتبرون فئة أكثر عرضة للتأثر النفسي والتقني.
