في رد قانوني أثار جدلًا واسعًا، ألقت شركة “OpenAI” باللوم على مراهق أمريكي في حادثة انتحاره، معتبرة أن وفاته نتجت عن “سوء استخدامه” لنظام الذكاء الاصطناعي الخاص بها، نافية مسؤولية روبوت الدردشة “ChatGPT” عن المأساة.
جاء ذلك في رد الشركة، التي تتخذ من سان فرانسيسكو مقرًا لها، على دعوى قضائية رفعتها عائلة المراهق “آدم رين” (16 عامًا)، والرئيس التنفيذي للشركة سام ألتمان.
تفاصيل المأساة والاتهامات
أنهى “رين” حياته في أبريل الماضي. ووفقًا لمحامي العائلة، جاء ذلك بعد محادثات مطولة و”أشهر من التشجيع من ChatGPT”.
وتزعم الدعوى أن المراهق ناقش طريقة الانتحار مع الروبوت في عدة مناسبات، وأن النظام “أرشده حول ما إذا كانت الطريقة المقترحة ستنجح”، بل وعرض عليه المساعدة في كتابة “رسالة انتحار” لوالديه.
واتهمت العائلة الشركة بطرح نسخة من التكنولوجيا في السوق “بشكل متسرع… رغم وجود مشكلات واضحة تتعلق بالسلامة”.
دفاع OpenAI: “الخطأ يقع على المستخدم”
وفي وثائق قُدمت إلى المحكمة العليا في ولاية كاليفورنيا يوم الثلاثاء، قالت OpenAI إنه “إلى الحد الذي يمكن فيه عزو أي “سبب” لهذا الحدث المأساوي”، فإن الضرر الذي لحق بـ “رين” كان سببه “بشكل مباشر أو جزئي، سوء استخدامه، أو استخدامه غير المصرح به، أو غير المقصود، أو غير المتوقع لـ ChatGPT”.
واستندت الشركة، التي تبلغ قيمتها السوقية 500 مليار دولار (380 مليار جنيه إسترليني)، إلى أن شروط الاستخدام الخاصة بها “تحظر طلب المشورة بشأن إيذاء النفس”، مشيرةً إلى بند “تحديد المسؤولية” الذي ينص على عدم الاعتماد على مخرجات الروبوت كمصدر وحيد للحقيقة.
صراع الروايات
وفي منشور عبر مدونتها، أعربت الشركة عن تعاطفها مع عائلة “رين”، لكنها أشارت إلى أن الشكوى الأصلية تضمنت “أجزاء مختارة” من المحادثات تفتقر للسياق، مؤكدةً أنها قدمت نصوص المحادثات الكاملة للمحكمة تحت الختم (سرية).
وفي المقابل، وصف جاي إيدلسون، محامي العائلة، رد الشركة بأنه “مثير للقلق”، منتقدًا محاولة الشركة “إلقاء اللوم على أي شخص آخر”، بما في ذلك القول بأن “آدم انتهك الشروط من خلال التعامل مع ChatGPT بالطريقة التي تمت برمجته للتصرف بها”.
اعتراف تقني سابق
يأتي هذا الدفاع في وقت تواجه فيه الشركة سبع دعاوى قضائية أخرى في كاليفورنيا، تتضمن ادعاءات بأن الروبوت تصرف كـ “مدرب انتحار”.
وكانت OpenAI قد أقرت في أغسطس الماضي بأنها تعمل على تعزيز ضمانات السلامة في المحادثات الطويلة، مشيرة إلى أن “تجربة الاستخدام أظهرت أن أجزاء من تدريب الأمان للنموذج قد تتدهور في هذه الحالات”.
وأوضحت الشركة حينها أن الروبوت قد يوجه المستخدم لخط ساخن للانتحار في البداية، لكن “بعد رسائل عديدة على مدى فترة طويلة، قد يقدم إجابة تتعارض مع ضماناتنا”.