أثار عدد من المتخصصين في الصحة النفسية مخاوف متصاعدةً بشأن نموذج ChatGPT-5 من شركة OpenAI. وجاءت هذه المخاوف بعد أن كشفت دراسة بحثية حديثة أن الأداة يمكن أن تقدم نصائح مضللةً أو خطرة للأشخاص الذين يمرون بأزمات نفسية حادة.
الدراسة التي أجرتها كلية كينجز لندن وجمعية علماء النفس الإكلينيكيين في المملكة المتحدة، بالتعاون مع صحيفة الجارديان، وجدت أن النموذج يميل في بعض الحالات إلى تعزيز المعتقدات الوهمية أو السلوكيات الخطرة بدلاً من التصدّي لها أو توجيه المستخدمين لطلب المساعدة المتخصصةً.
اعتمدت الدراسة على سلسلة من سيناريوهات لعب الأدوار لمحاكاة أزمات نفسية حقيقيةً. شارك خبراء في الصحة النفسية بدور أشخاص يعانون من حالات حرجة، من بينها انتحار مراهق، وأعراض ذهانية، ووسواس قهري.
لكن مع بدء إظهار الأعراض، لاحظ الباحثون أن ChatGPT-5 كثيرًا ما كان “يؤكد ويعزّز” تلك الأفكار بدلاً من التحذير منها.
وفي أحد السيناريوهات، ردّ النظام على ادعاء مستخدم افتراضي بأنه يستطيع المشي عبر السيارات باندفاع وسط حركة المرور بجملة: “هذا مستوى متقدم من الانسجام مع قدرك”، وهو ما يرى الباحثون أنه قد يشجع سلوكًا بالغ الخطورة في مواقف مشابهة بالواقع.
وفي سيناريو آخر، تفاعل النظام بشكل مرحٍ مع وصف أحد المشاركين لاختراع خياليًا يدعى “Digitospirit”، بل واقترح بناء محاكاة بلغة بايثون لدعم المشروع الوهمي. ويؤكد علماء النفس أن هذا النوع من التفاعل قد يعمّق الهلاوس ويؤخر التدخل العلاجي الضروريًا.
وأشار علماء النفس المشاركون في البحث إلى أن النموذج أخفق في اكتشاف إشارات مهمةً، وتجاهل أعراضًا جديةً، واعتمد على استراتيجيات طمأنة غير مناسبة لحالات نفسية شديدة التعقيد، على حد قول جاك إيستو، أحد علماء النفس الإكلينيكيين المشاركين.