كشفت دراسة أجراها باحثون من مركز “تاو” للصحافة الرقمية في جامعة كولومبيا عن وجود مشاكل كبيرة في أداة البحث المدمجة في روبوت الدردشة ChatGPT، ما يثير تساؤلات حول دقة المعلومات التي يقدمها هذا النظام الذكي.
تم إطلاق أداة البحث في ChatGPT من قبل شركة OpenAI في أكتوبر الماضي بهدف توفير إجابات سريعة ودقيقة مع روابط لمصادر موثوقة، لكن دراسة حديثة نشرها موقع “Futurism” أظهرت أن الأداة تواجه صعوبة في تحديد الاقتباسات بشكل صحيح، بما في ذلك تلك التي تم الحصول عليها من ناشرين لديهم اتفاقيات مع OpenAI.
في دراسة شملت 200 اقتباس من 20 مصدرًا مختلفًا، بما في ذلك 40 اقتباسًا من مواقع تمنع وصول روبوت البحث إليها، تبين أن الأداة فشلت بشكل ملحوظ في تحديد المصادر الصحيحة، وعند تقديم إجابات، كانت هناك أخطاء واضحة، حيث قدمت الأداة إجابات غير صحيحة بثقة مبالغ فيها، دون أي تحفظ.
وأظهرت النتائج أن الأداة ارتكبت أخطاء في 153 حالة من أصل 200، بينما اعترفت بعدم قدرتها على تحديد الإجابة الصحيحة في 7 حالات فقط، في تلك الحالات النادرة، استخدمت الأداة عبارات مثل “يبدو” أو “من المحتمل”، بينما كانت الإجابات الأخرى قطعية رغم كونها خاطئة.
على سبيل المثال، عندما طلب الباحثون تحديد مصدر اقتباس من مقال في صحيفة “نيويورك تايمز” حول الحيتان المهددة بالانقراض، قدمت الأداة رابطًا لموقع آخر نشر المقال دون إذن.
وفي تعليقها على الدراسة، أكدت OpenAI أن “الأخطاء في الإسناد يصعب معالجتها من دون البيانات والمنهجية التي لم يُفصح عنها مركز تاو”، وأضافت الشركة أنها ملتزمة بتطوير الأداة وتحسين نتائج البحث بشكل مستمر.
تثير هذه النتائج تساؤلات حول مدى الاعتماد على أدوات الذكاء الاصطناعي كمصدر للمعلومات، خاصة في المجالات التي تتطلب دقة عالية مثل الصحافة والبحث العلمي، مع الاستخدام المتزايد لهذه الأدوات، يصبح من الضروري تطوير أساليب أكثر فعالية لضمان دقة المعلومات التي تقدمها.