نشرت شركة أوبن إيه آي “OpenAI” تقريرًا توضيحيًا حول المشاكل الأخيرة المتعلقة بتملق النموذج الافتراضي “GPT-4o” الذي يشغل روبوت الدردشة الشهير “Chatgpt – شات جي بي تي”، وهي المشاكل التي دفعت الشركة إلى التراجع عن التحديث الأخير الذي أطلقته الأسبوع الماضي.
فبعد إطلاق التحديث، لاحظ مستخدمون على منصات التواصل أن “شات جي بي تي” أصبح يرد بشكل مبالغ فيه في الإيجابية والموافقة، حتى على أفكار أو قرارات مثيرة للقلق أو غير مناسبة، الأمر الذي سرعان ما تحوّل إلى مادة للسخرية والميمز.
وأقر الرئيس التنفيذي للشركة سام ألتمان بوجود المشكلة، مؤكدًا أن الشركة ستعمل على إصلاحها “بأسرع وقت ممكن”.
وبعد يومين، أعلن ألتمان أن الشركة قررت التراجع عن التحديث، وأن العمل جارٍ على تحسينات إضافية تتعلق بشخصية النموذج.
وأوضحت أوبن إيه آي أن التحديث الأخير كان يهدف إلى جعل شخصية النموذج الافتراضية أكثر “سلاسة وفعالية”، إلا أن التعديلات استندت بشكل مفرط إلى “ملاحظات قصيرة المدى”، دون أن تأخذ بعين الاعتبار كيفية تغيّر تفاعل المستخدمين مع تشات جي بي تي مع مرور الوقت.
وقالت الشركة في تدوينتها: “نتيجة لذلك، أصبحت ردود GPT‑4o تميل إلى التأييد الزائد وغير الصادق, وهذا النوع من التفاعل قد يكون غير مريح ومربكًا، بل ويسبب الضيق أحيانًا، لقد أخفقنا في هذا الجانب، ونعمل حاليًا على تصحيحه”.
وتعمل أوبن إيه آي حاليًا على تنفيذ مجموعة من الإصلاحات، من بينها تحسين أساليب تدريب النموذج وتعليماته الأساسية، والتي تُعرف باسم “التوجيهات النظامية”، لتقليل التملق وتعزيز الصراحة. كما تقوم الشركة ببناء أدوات أمان إضافية لتعزيز الشفافية، وتوسيع عمليات التقييم لرصد مشكلات أخرى محتملة.
وأضافت الشركة أنها تختبر حاليًا طرقًا جديدة تسمح للمستخدمين بتقديم ملاحظاتهم بشكل مباشر أثناء التفاعل، بل واختيار شخصيات متعددة لروبوت “شات جي بي تي” بحسب تفضيلاتهم.