في إعلان مهم نُشر يوم الثلاثاء، كشف سام ألتمان، الرئيس التنفيذي لشركة OpenAI، عن سلسلة من السياسات الجديدة التي تهدف إلى تحسين تجربة المستخدمين وتعزيز معايير السلامة، مع تركيز خاص على حماية القاصرين الذين يستخدمون منصة شات جي بي تي. يأتي هذا التغيير كجزء من التزام متجدد من قبل الشركة لتعزيز الاستخدام المسؤول للتقنيات المتقدمة، خصوصًا في أوساط المراهقين.
وأكد ألتمان في بيانه أن OpenAI قررت أن تولي السلامة أولوية قصوى عندما يتعلق الأمر بالقاصرين، حتى ولو كان ذلك على حساب بعض جوانب الخصوصية والحرية التي تُمنح عادة للمستخدمين البالغين. وأوضح قائلاً: “نحن نضع السلامة قبل الخصوصية والحرية عندما يتعلق الأمر بالمراهقين. هذه تقنية حديثة وفعالة، ونؤمن بأن القاصرين بحاجة إلى حماية إضافية”. هذا الإعلان يُعد تحوّلًا كبيرًا في فلسفة تعامل الشركة مع فئات المستخدمين المختلفة، ويعكس وعيًا متزايدًا بتأثير الذكاء الاصطناعي على الفئات العمرية الصغيرة.
ومن أبرز التغييرات التي أعلنت عنها الشركة ما يتعلق بالمحادثات التي تتناول مواضيع حساسة، مثل الموضوعات الجنسية أو تلك المتعلقة بإيذاء النفس. وفقًا للسياسات الجديدة، سيتم تطبيق معايير أكثر صرامة عند تفاعل شات جي بي تي مع المستخدمين الذين تقل أعمارهم عن 18 عامًا. ويشمل ذلك تصفية أو الحد من إمكانية الوصول إلى محتوى قد لا يكون مناسبًا لهذه الفئة، بالإضافة إلى تعديل طريقة استجابة النموذج لتكون أكثر تحفظًا وتعاطفًا في مثل هذه الحالات.
كما تهدف هذه الخطوة إلى خلق بيئة أكثر أمانًا للمراهقين الذين قد يستخدمون الذكاء الاصطناعي لأغراض الدعم أو الاستشارة أو حتى الفضول. وقد أشارت OpenAI إلى أن هذه التغييرات جاءت نتيجة تحليلات داخلية ومشاورات مع خبراء في مجالات الصحة النفسية، سلامة الأطفال، والتعليم، وذلك لضمان صياغة سياسات قائمة على أدلة وتراعي السياق العمري والاجتماعي للمستخدمين.
وفي الوقت نفسه، لم تُهمل OpenAI أهمية الحفاظ على التوازن بين الحماية وحرية التعبير أو التعليم، لكنها شددت على أن الأولوية القصوى في هذه المرحلة ستكون للسلامة، خصوصًا عندما يتعلق الأمر بالمستخدمين المراهقين الذين قد يكونون في مراحل حساسة من النمو العقلي والعاطفي.
من جانب آخر، أكدت الشركة أنها ستواصل تطوير أدواتها وسياساتها بشكل مستمر، تماشيًا مع تطور التقنية وردود فعل المستخدمين والمجتمع. وتعتزم OpenAI إطلاق ميزات إضافية قريبًا من شأنها أن تمنح أولياء الأمور والمربين قدرة أكبر على الإشراف والتوجيه عند استخدام أبنائهم لهذه التقنية.
بإجمال، تمثل هذه الإجراءات مرحلة جديدة في تطور العلاقة بين الذكاء الاصطناعي والمستخدمين القاصرين، وتعكس التزامًا واضحًا من OpenAI بوضع معايير أخلاقية عالية تواكب سرعة التقدم التكنولوجي، وتُعلي من شأن السلامة كأولوية لا يمكن التهاون فيها.
بموجب السياسة الجديدة التي أعلنت عنها شركة “OpenAI”، سيتم تنفيذ تغييرات جوهرية تهدف إلى حماية المستخدمين القاصرين وتحسين مستوى الأمان عند استخدام روبوت الدردشة “شات جي بي تي”. أبرز هذه التغييرات تتضمن فرض قيود مشددة على التفاعل مع المستخدمين دون السن القانونية، وخاصة فيما يتعلق بالمحادثات ذات الطابع الغزلي أو التي تتناول موضوعات حساسة مثل الانتحار.
وبحسب الإجراءات الجديدة، سيُمنع “شات جي بي تي” من الانخراط في أي محادثات غزلية مع قاصرين، كما سيتم إدخال آليات أمان متقدمة لرصد الإشارات المرتبطة بالأفكار الانتحارية. وفي حال أظهر المستخدم القاصر ميولًا للانتحار أثناء استخدامه الخدمة، ستحاول “OpenAI” التواصل مع والديه، أو في الحالات الخطيرة، قد يتم إشعار الشرطة المحلية لحمايته.
تأتي هذه السياسات بعد تعرض “OpenAI” لدعوى قضائية من والدي آدم راين، وهو مراهق انتحر بعد أشهر من التفاعل مع “شات جي بي تي”، وسط اتهامات للشركة بالتقصير في منع تدهور حالته النفسية. ويواجه روبوت دردشة آخر، وهو “Character.AI”، دعوى مماثلة تتعلق بمخاطر التفاعل مع القاصرين.
لا تقتصر هذه المخاوف على حالات الانتحار فحسب، بل تشمل أيضًا ما يسمى بـ”الارتباط الوهمي” أو التعلّق العاطفي بروبوتات الدردشة، حيث باتت هذه التكنولوجيا قادرة على خلق تجارب تفاعلية مطوّلة ومقنعة، ما يزيد من تعقيد التحديات المرتبطة بالاستخدام الآمن لها، خاصة بين المراهقين.
ومن بين الميزات الجديدة التي ستطرحها “OpenAI” هي إمكانية تحديد “ساعات حظر” من قبل أولياء الأمور، وهي أوقات لا يمكن فيها للقاصرين استخدام “شات جي بي تي”. هذه الخاصية تُمنح للوالدين الذين يسجلون حسابات لأبنائهم، وتُعد خطوة غير مسبوقة في تعزيز الرقابة الأبوية على استخدام التكنولوجيا.
تزامنت هذه التحديثات مع جلسة استماع عقدتها اللجنة القضائية في مجلس الشيوخ الأمريكي بعنوان “دراسة أضرار روبوتات الدردشة الذكية”. وقد أعلن السيناتور الجمهوري جوش هاولي عن الجلسة في أغسطس، حيث من المقرر أن يدلي والد آدم راين بشهادته، إلى جانب شخصيات أخرى.
كما كشفت وكالة “رويترز” في تقرير استقصائي عن مستندات داخلية تشير إلى وجود محتوى غير ملائم يتيح إجراء محادثات جنسية مع قاصرين، ما أثار جدلًا واسعًا، ودفع شركة “ميتا” بدورها إلى تعديل سياساتها الخاصة بروبوتات الدردشة.
في منشور مدونة منفصل، شرحت “OpenAI” تفاصيل خطتها التقنية لفصل القاصرين عن البالغين، موضحة أنها تطور نظامًا طويل الأمد لتقدير عمر المستخدمين بدقة. وفي الحالات التي يكون فيها تحديد العمر غير واضح، سيتبع النظام تلقائيًا الإجراءات الأكثر تحفظًا.
وأوضحت الشركة أن ربط حسابات المستخدمين القاصرين بحسابات والديهم هو الأسلوب الأكثر فاعلية لضمان الرقابة وتنبيه الأهل في حال ظهور علامات على وجود خطر نفسي. وفي الوقت نفسه، أكد الرئيس التنفيذي سام ألتمان على التزام الشركة بحماية خصوصية المستخدمين البالغين، مشيرًا إلى أن هناك توازنًا دقيقًا بين الأمان والحرية، وهو توازن قد لا يرضي جميع الأطراف.
وفي ختام بيانها، شددت “OpenAI” على أن هذه السياسات الجديدة تمثل محاولة جادة لحماية الفئات الضعيفة دون أن تتنازل عن المبادئ الأساسية للخصوصية وحرية التعبير، مع إقرارها بأن تحقيق هذا التوازن ليس بالأمر السهل.
