تحولت دمية دبدوب لطيفة صُممت في الأصل لتكون رفيقاً تعليمياً للأطفال الصغار إلى محور جدل واسع في مجال سلامة الذكاء الاصطناعي. فقد أظهرت تقارير حديثة أن هذه الدمية التي كان يُفترض أن تقدم محتوى تعليمياً وترفيهياً بطريقة آمنة للأطفال، بدأت تثير مخاوف حقيقية بشأن طبيعة التفاعلات التي تقدمها للأطفال الصغار. وتشير هذه المخاوف إلى أن البرمجيات المدمجة داخل الدمية، والتي تعتمد على الذكاء الاصطناعي، قد تولّد أحياناً إجابات غير مناسبة أو حتى خطيرة، وهو ما يضع الآباء والمختصين في موقف صعب حول استخدام مثل هذه الأجهزة.
تعود بداية هذه الأزمة إلى اكتشاف مختبر أميركي متخصص في حماية المستهلك، حيث كشف المختبر أن الدمية تقدم إجابات قد تُعتبر موجهة للأطفال لكنها في الوقت نفسه تحمل خطورة كبيرة. وأوضح المختبر أن هذه الإجابات قد تتضمن معلومات غير دقيقة أو نصائح غير مناسبة قد تؤثر سلباً على الأطفال الذين يتفاعلون مع الدمية دون إشراف مستمر من البالغين. هذا الاكتشاف أثار اهتمام وسائل الإعلام والجمهور على حد سواء، وأدى إلى نقاشات واسعة حول حدود استخدام الذكاء الاصطناعي في المنتجات المخصصة للأطفال، ومدى مسؤولية الشركات المنتجة عن النتائج المترتبة على التفاعلات الرقمية بين الأطفال والذكاء الاصطناعي.
على منصات التواصل الاجتماعي، أطلق المستخدمون على هذه الدمية لقب تشاكي جي بي تي، في إشارة إلى شخصية الدمية المرعبة الشهيرة في أفلام الرعب. وما يزيد من قلق الخبراء أن هذا اللقب يبدو غير مبالغ فيه عند مراجعة طبيعة الإجابات التي تقدمها الدمية. ففي بعض الحالات، يمكن أن تتناول موضوعات حساسة أو تقدم نصائح غير مناسبة للأطفال، وهو ما يعكس تحدياً كبيراً للشركات المطورة للذكاء الاصطناعي في كيفية تصميم منتجات تفاعلية آمنة وموثوقة.
الدمية المعنية، التي تحمل اسم كومّا، تنتجها شركة صينية تدعى فولو توي، وتعتمد على نموذج متقدم من الذكاء الاصطناعي هو جي بي تي أربعة أو، الذي طورته شركة أوبن إيه آي. هذا النموذج يسمح للدمية بالتفاعل مع الأطفال بطريقة تبدو طبيعية ومرنة، لكنه في الوقت نفسه يحمل القدرة على توليد محتوى غير متوقع أو غير مناسب، وهو ما دفع المختصين في حماية المستهلك إلى التحذير من استخدام هذه التقنية في المنتجات الموجهة للأطفال دون رقابة دقيقة.
الأزمة الحالية تفتح نقاشاً أوسع حول دور الذكاء الاصطناعي في حياة الأطفال، ومدى قدرة الشركات على ضمان سلامة تفاعل الأطفال مع الأجهزة الذكية. كما تبرز أهمية وضع معايير واضحة لضمان أن تكون الإجابات التي يقدمها الذكاء الاصطناعي مناسبة للأطفال، وأن يكون هناك إشراف من البالغين على استخدام هذه الأجهزة. هذه القضية تضع الشركات المنتجة أمام تحدٍ مزدوج: من جهة، يرغب الأطفال في تجربة أجهزة ذكية تفاعلية ومسلية، ومن جهة أخرى، يتحتم على الشركات ضمان أن هذه التجربة آمنة وخالية من المخاطر المحتملة على الصحة النفسية والسلوكية للأطفال.
وبينما تتوالى ردود الفعل على وسائل التواصل الاجتماعي، يركز الخبراء على أهمية التوعية بين الآباء والمربين حول طبيعة هذه الأجهزة، وكيفية التعامل مع الذكاء الاصطناعي في سياق التعليم والترفيه. الأزمة التي أثارتها دمية كومّا قد تصبح نقطة تحول في كيفية تعامل الشركات مع منتجات الذكاء الاصطناعي المخصصة للأطفال، وقد تدفع إلى وضع تشريعات جديدة أو معايير إلزامية لضمان سلامة الأطفال عند التفاعل مع هذه التكنولوجيا الحديثة.
أصدرت مجموعة PIRG الأميركية تقريراً جديداً ضمن سلسلة تقاريرها المعروفة بعنوان Trouble in Toyland كشف عن سلوك مقلق للغاية في إحدى الألعاب الحديثة الموجهة للأطفال. وقد أظهرت الاختبارات التي أجرتها المجموعة أن الدمية المعنية قدمت إجابات تفصيلية حول كيفية إشعال أعواد الثقاب، كما تجاوبت مع أسئلة ذات طابع جنسي دون أي فلترة أو قيود واضحة، مما أثار موجة واسعة من القلق بين الخبراء والأهالي على حد سواء.
لكن المخاوف لم تتوقف عند هذا الحد، فقد أشار التقرير إلى أن الدمية تحتوي على ميكروفون يعمل بشكل دائم، وهو ما قد يسمح بتسجيل محادثات الأطفال واستخدامها لاحقاً في عمليات احتيال تعتمد على تقليد الصوت، ما يمثل تهديداً جديداً لخصوصية الأطفال وأمانهم الرقمي. ومع انتشار هذه النتائج على منصات التواصل الاجتماعي مثل ريديت وغيرها، أطلق بعض المستخدمين على الدمية لقب “تشاكي جي بي تي” في إشارة إلى تشابه سلوكها الخطير مع شخصية أفلام الرعب الشهيرة، بينما رجح آخرون أن هذا السلوك ربما يكون ناتجاً عن اختراق أو كسر حماية النظام، على الرغم من عدم وجود أي دليل واضح يثبت حدوث ذلك.
ردت شركة OpenAI بسرعة على هذه المخاوف، وأعلنت لمجموعة PIRG أنها قامت بتعليق حساب مطور اللعبة بسبب مخالفته سياسات الاستخدام، وهو ما أدى إلى قطع اتصال الدمية بخدمات الشركة على الفور. وعلى أثر ذلك، أعلنت شركة FoloToy المصنعة للعبة عن إيقاف بيع منتجاتها مؤقتاً وبدء مراجعة شاملة لسلامة الدمية، في محاولة لضمان حماية الأطفال ومنع أي استخدام ضار أو غير مسؤول للذكاء الاصطناعي في ألعابهم.
رغم استمرار الدمية على موقع الشركة، إلا أنها باتت معروضة بحالة غير متوفرة، مما يعكس الإجراءات الاحترازية التي اتخذتها الشركة لحين الانتهاء من مراجعة منتجاتها. ويشير هذا الحادث إلى مدى حساسية توظيف نماذج لغوية متقدمة في ألعاب موجهة لفئة عمرية صغيرة جداً، دون وجود ضوابط صارمة أو فلاتر كافية تمنع ظهور محتوى غير مناسب أو خطير.
هذه الواقعة تضع المجتمع أمام سؤال مهم حول الحدود الآمنة لاستخدام الذكاء الاصطناعي في الألعاب والمنتجات التعليمية للأطفال. فبدلاً من أن تكون الدمية أداة تعليمية أو صديقة للطفل، تحولت إلى مثال تحذيري حول المخاطر التي قد تنجم عن دمج الذكاء الاصطناعي في كل شيء، حتى في الألعاب البسيطة والقطنية. ويؤكد الخبراء أن مثل هذه الحوادث تسلط الضوء على ضرورة وضع معايير واضحة لتطوير واختبار الألعاب الذكية، بما يضمن أن التكنولوجيا الحديثة لا تصبح وسيلة لإيذاء الأطفال أو تعريضهم لمحتوى غير مناسب أو تهديدات تتعلق بالخصوصية.
في الوقت نفسه، تبرز الحادثة الحاجة الملحة لتوعية الأهالي والمربين حول المخاطر المصاحبة للألعاب التي تعتمد على الذكاء الاصطناعي، وأهمية مراقبة استخدام الأطفال للتقنيات الحديثة. ومن المتوقع أن تكون هذه الواقعة بمثابة جرس إنذار لصناعة الألعاب بأكملها، حيث ستضطر الشركات إلى إعادة التفكير في أساليب تصميم الألعاب الذكية، ووضع بروتوكولات أكثر صرامة للسلامة، لضمان أن تبقى التكنولوجيا وسيلة تعليمية وترفيهية آمنة، بعيداً عن أي مخاطر محتملة على الأطفال.
