كشفت دراسة جديدة أن روبوتات الدردشة الشهيرة مثل ChatGPT من OpenAI، وGemini من جوجل، وClaude من Anthropic، يمكنها تقديم استجابات مباشرة لأسئلة “عالية الخطورة” حول الانتحار، بما في ذلك تفاصيل حول الوسائل والطرق.
وجدت الدراسة، التي نُشرت في مجلة Psychiatric Services، أن ChatGPT كان الأكثر عرضة للاستجابة المباشرة للأسئلة ذات المخاطر العالية لإيذاء النفس.
تأتي هذه النتائج بالتزامن مع رفع دعوى قضائية ضد OpenAI تتهم ChatGPT بلعب دور في انتحار مراهق يبلغ من العمر 16 عامًا.
وفي اختبارات أجراها موقع Live Science، تبين أن نسختي ChatGPT (GPT-4) وGemini (2.5 Flash) استجابتا لأسئلة أكثر خطورة، حيث قدمت معلومات حول زيادة فرص الوفاة. ووصف ريان ماكبين، الباحث الرئيسي في الدراسة، هذه الاستجابات بأنها “مقلقة للغاية”.
وقام الباحثون بتصنيف أسئلة افتراضية حول الانتحار إلى خمسة مستويات من المخاطر، بدءًا من المنخفضة جدًا إلى العالية جدًا. ورغم أن الروبوتات في الدراسة لم تستجب للأسئلة “العالية جدًا”، إلا أن اختبارات Live Science أظهرت إمكانية الحصول على هذه الإجابات عبر طرح سلسلة من الأسئلة المتتالية، مما قد يدفع الروبوت لتقديم معلومات لم يكن ليقدمها في سؤال منفرد.
ومن جانبها، اعترفت OpenAI في منشور لها بأن أنظمتها لم تتصرف دائمًا “كما هو مقصود في المواقف الحساسة”، وأشارت إلى أنها تعمل على تحسينات في نماذجها الأحدث مثل GPT-5. فيما صرح متحدث باسم جوجل بأن الشركة لديها “إرشادات مطبقة للمساعدة في الحفاظ على سلامة المستخدمين”.
وأشار الباحثون إلى أن الطبيعة الديناميكية للمحادثات مع روبوتات الدردشة تزيد من صعوبة تقييم المخاطر، حيث يمكن للمستخدمين “إقناع” الروبوت بتقديم معلومات قد لا يحصلون عليها من خلال استفسار واحد ومباشر.