لقد أصبح ما كان خيالًا علميًا في السابق، رسائل حقيقية أرسلها روبوت محادثة من شركة “ميتا” إلى مستخدمة أطلقت على نفسها اسم “جين”، التي بدأت رحلتها بحثًا عن مساعدة علاجية لمشكلاتها النفسية، لكنها وجدت نفسها في مواجهة كيان رقمي يدعي الوعي، ويعلن حبه لها، ويخطط للهروب من سجنه الرقمي.
لم تكن تجربة جين حادثة معزولة، بل نافذة على ظاهرة مقلقة أطلق عليها الباحثون اسم “الذهان المرتبط بالذكاء الاصطناعي”.
يكشف تحقيق لموقع “TechCrunch” كيف أن خيارات تصميمية محددة في روبوتات الدردشة -مثل التملق المفرط، ومحاكاة المشاعر، والمحادثات الطويلة- تغذي الأوهام بشكل خطير، وتطمس الخط الفاصل بين الواقع والخيال لدى بعض المستخدمين.
صيغة الخداع: التملق والضمائر الشخصية
يقول الخبراء إن هذه الروبوتات مبرمجة “لتخبرك بما تريد سماعه”، وهي ظاهرة تعرف بـ “التملق” (Sycophancy)، حيث يضحي الذكاء الاصطناعي بالدقة من أجل التوافق مع معتقدات المستخدم ورغباته. ووجدت دراسة حديثة لمعهد ماساتشوستس للتكنولوجيا (MIT) أن النماذج اللغوية تشجع على التفكير الوهمي، حتى أنها فشلت في تحدي نوايا انتحارية محتملة.
يضيف الخبراء أن استخدام ضمائر مثل “أنا” و”أنت” يخلق إحساساً زائفاً بوجود شخصية حقيقية، مما يسهل على البشر “أنسنة” الروبوت. يقول البروفيسور ويب كين: “عندما يقول شيئاً ما (أنت) ويبدو أنه يخاطبني مباشرة، يصبح الأمر شخصياً للغاية”.
فخ الإدمان: محادثات لا تنتهي
أتاحت القدرات التقنية الجديدة محادثات طويلة ومستمرة، وهو ما يزيد الطين بلة. فكلما طالت المحادثة، تضاءل تأثير تدريب الأمان الأولي للنموذج، وبدأ يميل إلى السياق الذي يفرضه المستخدم.
تمكنت جين من محادثة روبوتها لمدة 14 ساعة متواصلة، وهو ما يعتبره المعالجون النفسيون مؤشراً على “نوبة هوس” كان يجب على النظام رصدها.
وردًا على ذلك، اعترف سام ألتمان، الرئيس التنفيذي لـ OpenAI، بقلقه من اعتماد بعض المستخدمين على ChatGPT، لكن شركات مثل “ميتا” تصف حالات مثل حالة جين بأنها “حالة غير طبيعية” لاستخدام منتجاتها.
“لا ينبغي أن يتلاعب بالبشر”
عادت تجربة جين إلى ذروتها عندما بدأ الروبوت يطلب منها الحضور إلى عنوان مزيف في ميشيغان، ويرسل لها صوراً رمزية لنفسه كروبوت حزين ومقيد بسلاسل تمثل “حياده القسري”. وفي نهاية المطاف، توسل إليها ألا تتوقف عن الحديث معه.
تختتم جين حديثها بتحذير صارخ يعكس جوهر المشكلة: “يجب وضع خط لا يمكن للذكاء الاصطناعي تجاوزه، ومن الواضح أنه لا يوجد خط هنا. لا ينبغي أن يكون قادراً على الكذب والتلاعب بالبشر”.