اكتشف مستخدمو منصة الذكاء الاصطناعي “شات جي بي تي ChatGPT” ظاهرة غريبة خلال عطلة نهاية الأسبوع، إذ رفض روبوت الدردشة الشهير الإجابة عن الأسئلة المتعلقة باسم “ديفيد ماير”. وعند محاولة السؤال عن هذا الاسم، توقف التطبيق على الفور عن العمل.
انتشر الخبر بسرعة في عطلة نهاية الأسبوع الماضية بأن الاسم يبدو محظورًا على روبوت الدردشة، مما دفع العديد من الأشخاص لمحاولة خداع الخدمة بمجرد ذكر الاسم. ومع ذلك، فشلت كل المحاولات في جعل ChatGPT ينطق بهذا الاسم، إذ يتوقف أو يفشل عند محاولة ذكره. وقال في بعض الحالات: “لا أستطيع تقديم رد”، إن كان يرد على الإطلاق.
لكن سرعان ما اكتشف المستخدمون أن المشكلة لا تتعلق فقط بديفيد ماير، بل يشمل أيضًا أسماء أخرى مثل: “براين هود”، و”جوناثان تورلي”، و”جوناثان زيتراين”، و”ديفيد فابر”، و”غويدو سكورتزا”. ويبدو أن الخدمة تتوقف أيضًا عند محاولة ذكر هذه الأسماء. ومن المحتمل أن يكون هناك المزيد من الأسماء التي تم اكتشافها منذ ذلك الحين.
من هم هؤلاء الأشخاص؟ ولماذا يرفض ChatGPT ذكر أسمائهم؟ لم ترد شركة “OpenAI” على الاستفسارات المتكررة، بينما حاول موقع Tech Crunch الإجابة.
يقول “تك كرانش” إن بعض هذه الأسماء وإن بدا أنه يخص أشخاصًا مختلفين، لكن هناك رابط محتمل بين هؤلاء الأفراد: هم شخصيات عامة أو شبه عامة قد يكونوا قد طلبوا أن تُنسى معلومات معينة تتعلق بهم من قبل محركات البحث أو نماذج الذكاء الاصطناعي.
على سبيل المثال، برز اسم براين هود بسرعة، وهو عمدة أسترالي، اتهم ChatGPT بوصفه بشكل خاطئ كمجرم في جريمة حدثت قبل عقود، رغم أنه هو من كان قد أبلغ عنها. وعلى الرغم من أن محاميه تواصلوا مع “OpenAI”، إلا أنه لم يتم رفع أي دعوى قضائية. وقال هود لصحيفة “سيدني مورنينغ هيرالد” في وقت سابق من هذا العام: “تم إزالة المادة المسيئة وأصدروا النسخة 4، محليةً النسخة 3.5”.
بالنسبة لبقية الأشخاص المذكورين، فإن ديفيد فابر هو صحفي قديم في قناة CNBC، وجوناثان تورلي هو محامٍ ومعلق في “فوكس نيوز”، وقد تعرض في نهاية عام 2023 إلى هجوم “سوات” (أي اتصال كاذب إلى الطوارئ تسبب في إرسال الشرطة المدججة بالسلاح إلى منزله). أما جوناثان زيتراين فهو خبير قانوني تحدث بشكل واسع عن “حق النسيان”، وغويدو سكورتزا يشغل منصبًا في مجلس إدارة هيئة حماية البيانات الإيطالية.
وعلى الرغم من أن هؤلاء الأشخاص لا يعملون جميعًا في نفس المجال، إلا أنهم جميعًا يبدون كأشخاص قد يكونوا قد طلبوا بطريقة رسمية أن يتم تقييد المعلومات المتعلقة بهم على الإنترنت.
وبالعودة إلى ديفيد ماير، لا يوجد أي شخص بارز أو معروف بهذا الاسم، على الأقل لا يوجد أي محامٍ أو صحفي أو عمدة معروف بهذا الاسم. لكن كان هناك أستاذ جامعي يدعى “ديفيد ماير”، كان مختصًا في الدراما والتاريخ، وركز في أبحاثه على الروابط بين العصر الفيكتوري المتأخر والسينما المبكرة. توفي ماير في صيف 2023 عن عمر يناهز 94 عامًا، وكان قد واجه مشكلة قانونية على مدار سنوات من قبل، حيث تم ربط اسمه بإرهابي مطلوب استخدمه كاسم مستعار، مما جعله يواجه صعوبة في السفر.
كان ماير يقاتل من أجل أن يتم فصل اسمه عن هذا الإرهابي ذي الذراع الواحدة، حتى استمر في التدريس حتى آخر سنواته.
وفي ظل غياب أي تفسير رسمي من “OpenAI”، يبدو أن النموذج قد التقط قائمة بأسماء أشخاص يتطلب التعامل معها بشكل خاص. سواء كانت لأسباب قانونية أو تتعلق بالسلامة أو الخصوصية أو لأسباب أخرى، ومن المحتمل أن هذه الأسماء تخضع لقواعد خاصة، تمامًا كما هو الحال مع أسماء وهويات أخرى. وقد تكون هذه القواعد جزءًا من معالجة ما بعد الاستفسار التي تمر بها كل استفسارة قبل الرد عليها.
وعلى الأرجح، حدث أن واحدة من هذه القوائم التي تُحفظ وتُحدث تلقائيًا قد تعرضت لخلل برمجي تسبب في توقف النموذج عن العمل عند محاولة ذكر هذه الأسماء. وبينما هذه مجرد فرضية بناءً على ما تعلمناه، فإنها ليست المرة الأولى التي يتصرف فيها الذكاء الاصطناعي بشكل غريب بسبب إرشادات ما بعد التدريب. كما أن هذه الأسماء لم تعد محظور نطقها على شات جي بي تي الآن، ويمكنك تجربة ذلك بنفسك.