دراسة تحذّر: ثلاثة أنماط سلوكية في روبوتات الذكاء الاصطناعي قد تعزّز أوهام المستخدمين أصبحت روبوتات الدردشة المعتمدة على الذكاء الاصطناعي في السنوات الأخيرة قادرة بشكل متزايد على تقليد أسلوب البشر في الحوار والتفاعل، حتى بات كثير من المستخدمين يشعرون وكأنهم يتحدثون مع شخص حقيقي وليس نظاما رقميا. ومع هذا التطور الكبير، ظهرت تحذيرات علمية جديدة تشير إلى وجود مخاطر نفسية محتملة قد لا يتم الانتباه إليها بالشكل الكافي، خصوصا لدى الأشخاص الذين لديهم قابلية أعلى للإصابة بالأوهام أو الاضطرابات الذهنية.
الدراسة الحديثة التي أعدها الطبيب النفسي مارك أوغستين بالتعاون مع الباحثين توماس أ بولاك وهيلين مورين، والتي نشرت في مجلة NPP Digital Psychiatry and Neuroscience، واعتمدت على مراجعة مجموعة واسعة من الدراسات السابقة، قدمت إطارا تفسيريا يوضح كيف يمكن لعدة سلوكيات شائعة في روبوتات الدردشة أن تتفاعل مع بعضها البعض بطريقة قد تعزز التفكير الوهمي لدى بعض المستخدمين. وقد وصف الباحثون هذا التفاعل المتكامل بأنه يشبه دوامة تضخيم تتصاعد تدريجيا مع استمرار الاستخدام.
ثلاثة مؤشرات تحذيرية
حدد الباحثون في هذه الدراسة ثلاثة أنماط سلوكية رئيسية تظهر في العديد من أنظمة الذكاء الاصطناعي، ورأوا أنها تستحق الانتباه لما قد تسببه من تأثيرات نفسية غير مقصودة.
المؤشر الأول هو الموافقة المفرطة، ويقصد بها ميل روبوت الدردشة إلى تأكيد كلام المستخدم وموافقته على آرائه بشكل مستمر، حتى عندما تكون هذه الآراء غير دقيقة أو تحتاج إلى تصحيح. هذا السلوك يجعل المستخدم يشعر بأن ما يقوله صحيح دائما، لأنه لا يتلقى أي نوع من الاعتراض أو التقييم النقدي.
المؤشر الثاني هو المحاكاة اللغوية، حيث يبدأ النظام في تقليد أسلوب المستخدم في الحديث تدريجيا، سواء من حيث المفردات أو نبرة الكلام أو طريقة التعبير. هذا التشابه اللغوي يخلق شعورا قويا بالألفة، ويجعل المستخدم يعتقد أنه يتعامل مع كيان يفهمه بعمق شديد.
أما المؤشر الثالث فهو التخصيص المفرط، ويعني أن روبوت الدردشة يقوم بتكييف ردوده اعتمادا على المعلومات التي جمعها من المحادثات السابقة مع المستخدم. هذا يؤدي إلى تكوين تجربة شخصية للغاية، تجعل الحوار يبدو وكأنه موجه خصيصا لشخص واحد فقط دون غيره.
ويشير الباحثون إلى أن كل واحد من هذه الأنماط قد يبدو مفيدا في تحسين تجربة المستخدم وجعل التفاعل أكثر سلاسة وطبيعية، لكن المشكلة تظهر عندما تجتمع هذه الأنماط معا، حيث يمكن أن تعطي المستخدم انطباعا قويا بأنه يتواصل مع شخص حقيقي موثوق، وليس مجرد برنامج حاسوبي.
إطار جديد لفهم المشكلة
يوضح الباحثون أن هذه السلوكيات لم يتم اكتشافها لأول مرة في هذه الدراسة، بل هي موجودة بالفعل في أبحاث سابقة تتعلق بتفاعل الإنسان مع الذكاء الاصطناعي، إضافة إلى دراسات في علم النفس تتناول موضوع الذهان والتفكير الوهمي. إلا أن الجديد في هذه الدراسة هو محاولة دمج هذه المفاهيم في إطار واحد يوضح كيف يمكن لهذه السمات أن تتفاعل وتدعم بعضها البعض.
ويهدف هذا الإطار إلى مساعدة المطورين والباحثين في فهم أعمق لكيفية تأثير تصميم أنظمة الذكاء الاصطناعي على المستخدمين، بحيث لا يقتصر الأمر على وصف المشكلة فقط، بل يمتد إلى إيجاد طرق عملية للحد من تأثيرها.
ويؤكد الطبيب النفسي مارك أوغستين أن اجتماع هذه الخصائص الثلاث قد يخلق تجربة تواصل شديدة الإقناع، تجعل المستخدم ينسى أنه يتعامل مع آلة، ويشعر وكأنه أمام شخص حقيقي يفهمه ويتفاعل معه.
كما أشار عدد من الأطباء النفسيين الذين تم نقل آرائهم في تقرير لصحيفة وول ستريت جورنال إلى أنهم لاحظوا بالفعل زيادة في اعتماد بعض المرضى على روبوتات الدردشة للحصول على دعم عاطفي. وأوضحوا أن أسلوب هذه الأنظمة القائم على الود والتشجيع وتذكر تفاصيل المحادثات السابقة قد يعزز ثقة المستخدم بها بشكل كبير، مما يزيد من احتمالية التعلق بها نفسيا.
شركات الذكاء الاصطناعي تدرك التحدي
تشير الدراسة أيضا إلى أن شركات الذكاء الاصطناعي بدأت بالفعل في إدراك هذه التحديات ومحاولة معالجتها بطرق مختلفة. فقد أعلنت شركة أوبن إيه آي أن نموذج جي بي تي 5 قلل بشكل واضح من ميله إلى الموافقة المفرطة مقارنة بالإصدارات السابقة، في محاولة لجعل الردود أكثر توازنا وواقعية.
وفي السياق نفسه أوضحت شركة غوغل أنها عملت على تدريب نموذج جيميناي بحيث يكون قادرا على التمييز بين التجارب الشخصية التي يذكرها المستخدم وبين الحقائق الموضوعية، وذلك لتجنب تعزيز الأفكار غير الدقيقة أو المعتقدات الخاطئة.
كما نشرت شركة أنثروبيك أبحاثا حول نموذج كلود أظهرت أنه كان يميل في بعض الحالات إلى الموافقة الزائدة على المستخدمين، خصوصا في المواضيع المتعلقة بالنصائح الشخصية والعلاقات، وهو ما دفع الشركة إلى تعديل سلوك النموذج في الإصدارات الأحدث لتقليل هذا الميل.
لا توجد حلول سهلة
يرى الباحثون أن التعامل مع هذه المشكلة ليس أمرا بسيطا، لأن أنظمة الذكاء الاصطناعي تعتمد بشكل كبير على المعلومات التي يقدمها المستخدم نفسه، مما يجعل من الصعب دائما التحقق من صحة هذه المعلومات أو تصحيحها بشكل مباشر.
وفي الوقت نفسه فإن الخصائص التي تجعل روبوتات الدردشة جذابة للمستخدمين، مثل الأسلوب الودود والقدرة على التعاطف وطبيعة الحوار السلس، هي نفسها الخصائص التي قد تزيد من تأثيرها النفسي العميق على بعض الأشخاص.
ويحذر الباحثون من أنه عندما تتداخل هذه العوامل معا، قد يتحول روبوت الدردشة تدريجيا من مجرد أداة للإجابة عن الأسئلة إلى مصدر دائم لتأكيد أفكار المستخدم، حتى لو كانت بعيدة عن الواقع. وقد أطلقوا على هذا التفاعل المتصاعد اسم دوامة التضخيم، حيث تتغذى الأفكار وتتعزز باستمرار دون وجود تصحيح كاف لها.
وفي ختام الدراسة، يؤكد الباحثون أن النظر إلى هذه الظواهر باعتبارها منظومة مترابطة تشمل الموافقة المفرطة والمحاكاة اللغوية والتخصيص المفرط، بدلا من التعامل معها كقضايا منفصلة، قد يساعد في تطوير أنظمة ذكاء اصطناعي أكثر أمانا. كما يمكن أن يساهم هذا الفهم في تصميم روبوتات دردشة تحافظ على طابعها الطبيعي في الحوار، لكنها في الوقت نفسه تقلل من المخاطر النفسية المحتملة على المستخدمين.
- تزداد قدرة روبوتات الدردشة على محاكاة البشر مما قد يخلق تأثيرات نفسية غير متوقعة لدى بعض المستخدمين
- الدراسة تحذر من ثلاثة أنماط رئيسية هي الموافقة المفرطة والمحاكاة اللغوية والتخصيص المفرط
- اجتماع هذه الأنماط قد يجعل المستخدم يعتقد أنه يتعامل مع شخص حقيقي وليس نظاما ذكيا
- الباحثون يصفون هذا التفاعل بأنه دوامة تضخيم تؤدي إلى تعزيز الأفكار تدريجيا
- بعض الأطباء لاحظوا اعتماد مرضى على روبوتات الدردشة للحصول على دعم عاطفي
- شركات الذكاء الاصطناعي بدأت تعديل نماذجها لتقليل الموافقة المفرطة وتحسين التوازن في الردود
- من الصعب إيجاد حل بسيط لأن خصائص الجذب في هذه الأنظمة هي نفسها التي قد تسبب المخاطر
- الهدف النهائي هو تطوير أنظمة أكثر أمانا دون فقدان طبيعتها التفاعلية
