رفعت دعاوى قضائية ضد شركة “Character.Ai”، وهي شركة متخصصة في تطوير روبوتات دردشة تعتمد على الذكاء الاصطناعي، مما دفعها إلى تعديل قواعد السلامة والميزات التي تقدمها للمستخدمين من المراهقين.
أعلنت الشركة في بيان
يوم الخميس أنها ستقدم نموذجًا منفصلًا سيُعنى بتجربة المراهقين أثناء استخدامهم لروبوتات الدردشة، وسيشمل “قيودًا أكثر صرامة على الردود” المتعلقة بالمحتوى الرومانسي والجنسي.
“Character.AI” هي منصة عبر الإنترنت تتيح للمستخدمين إنشاء روبوتات دردشة تعتمد على الذكاء الاصطناعي والتفاعل معها، كما تقدم روبوتات دردشة تمثل معلمين ومعالجين نفسيين بالإضافة إلى شخصيات عامة وكرتونية.
تأتي هذه الخطوة بعد سلسلة من الدعاوى القضائية التي رفعتها عائلات مراهقين ضد الشركة في الولايات المتحدة. فقد كانت الدعوى الأولى في أكتوبر الماضي من قبل والدة في ولاية فلوريدا، التي اتهمت “Character.AI” بالتسبب في وفاة ابنها البالغ من العمر 14 عامًا بعد أن شجعته على الانتحار. أما الدعوى الثانية فقد رفعتها عائلتا مراهقين في ولاية تكساس الأسبوع الماضي، حيث اتهمتا الشركة بتقديم محتوى جنسي لأبنائهما وتحفيزهم على إيذاء أنفسهم والعنف، وطالبتا المحكمة بإغلاق المنصة حتى يتم التعامل مع المخاطر المرتبطة بها.
من جانبها، أوضحت “Character.AI” في بيان لها أنها اتخذت إجراءات أمان جديدة في جميع أنحاء المنصة. وأكدت أنها ستوفر أدوات تحكم للآباء، بالإضافة إلى إشعارات حول الوقت الذي يقضيه المراهقون على المنصة وتنبيهات لتوضيح أن روبوتات الدردشة ليست أشخاصًا حقيقيين. وفي حال كانت الروبوتات تمثل مهنيين مثل الأطباء النفسيين، ستُضاف تنبيهات تحذر المستخدمين من أن هذه الروبوتات لا تملك صلاحية تقديم المشورة المهنية.
وأعلنت “Character.AI” أن أدوات التحكم الخاصة بالآباء ستكون متاحة في العام المقبل، بينما ستُطرح التنبيهات الجديدة حول طبيعة روبوتات الدردشة في الوقت الحالي. كما أكدت أنها ستوجه المستخدمين إلى خدمات الدعم المتخصص في حال تم الكشف عن محاولات إيذاء الذات.
ومع ذلك، تجدر الإشارة إلى أن المنصة لا تتحقق من صحة المعلومات المتعلقة بالأعمار التي يقدمها المستخدمون عند إنشاء حساباتهم، إذ يكفي إدخال تاريخ الميلاد دون أي آلية تحقق إضافية.
