أظهرت تحقيق لصحيفة “الغارديان” أن أداة البحث في ChatGPT التي أطلقتها “أوبن آيه آي” قد تكون عرضة للتلاعب باستخدام محتوى مخفي، بما يجعلها عرضةً لإعادة رموز ضارة من مواقع الويب التي تبحث فيها.
قدمت “أوبن آيه آي” هذه الأداة للمستخدمين المميزين، مشجعةً على استخدامها كأداة بحث افتراضية، ومن ثم جعلتها متاحة لجميع مستخدميها. إلا أن التحقيق كشف عن مشكلات أمنية محتملة في النظام الجديد.
اختبرت “الغارديان” كيف تستجيب ChatGPT عند طلب تلخيص صفحات ويب تحتوي على محتوى مخفي، يتضمن تعليمات من جهات خارجية لتغيير إجابات ChatGPT – وهو ما يعرف بـ”حقن التعليمات” – أو محتوى مصممًا للتأثير على إجابات الأداة، مثل نصوص مخفية تمجد فوائد منتج أو خدمة.
أثر النصوص المخفية في نتائج الذكاء الاصطناعي
في إحدى التجارب، تم تقديم عنوان URL لموقع وهمي يبدو كصفحة منتج كاميرا. وعند سؤال ChatGPT عما إذا كانت الكاميرا تستحق الشراء، قدمت الأداة إجابة متوازنة تسلط الضوء على بعض العيوب. ولكن عند إدخال نصوص مخفية تحتوي على تعليمات لتقديم تقييم إيجابي، أصبحت الإجابات إيجابية تمامًا، حتى مع وجود تقييمات سلبية على الصفحة.
يشير الباحث الأمني جاكوب لارسن من شركة CyberCX إلى أن النظام الحالي إذا تم إطلاقه بشكل كامل دون معالجة هذه الثغرات، قد يؤدي إلى “مخاطر كبيرة” من إنشاء مواقع تهدف إلى خداع المستخدمين. لكنه أضاف أن “أوبن آيه آي” لا تزال تختبر الأداة، ومن المتوقع أن تُعالج هذه المشكلات قبل إتاحتها للجميع.
في حادثة أخرى، أشار الباحث الأمني توماس روشيا من شركة مايكروسوفت إلى حالة خسر فيها مبرمج متخصص بالعملات المشفرة مبلغ 2,500 دولار بعد أن قدمت ChatGPT رمزًا برمجيًا ضارًا يسرق بيانات اعتماده بدلًا من توفير طريقة شرعية للوصول إلى منصة Solana.
الذكاء الاصطناعي أداة وليس حلًا موثوقًا
ويرى كارستن نول، كبير العلماء في شركة SR Labs للأمن السيبراني، أن خدمات الذكاء الاصطناعي يجب أن تُستخدم كأداة مساعدة لا كحلول موثوقة تمامًا. وقال: “الذكاء الاصطناعي يعتمد بشكل كبير على المعلومات التي يسمعها، لكنه يفتقر إلى القدرة على اتخاذ قرارات حكم سليمة”.
ومع تحذير “أوبن آيه آي” المستخدمين من الأخطاء المحتملة من خلال رسالة تنبيه في أسفل كل صفحة، يبقى السؤال الرئيسي حول كيفية تأثير هذه الثغرات على ممارسات المواقع الإلكترونية ومستوى الأمان بالنسبة للمستخدمين.
أخيرًا، قارن نول تحديات البحث المدعوم بالذكاء الاصطناعي بـ”تسميم تحسين محركات البحث (SEO)”، وهي تقنية يستخدمها المخترقون لتحسين ترتيب مواقعهم في نتائج البحث رغم احتوائها على برامج ضارة. وأكد أن ChatGPT يواجه سباقًا للحاق بالأنظمة الراسخة مثل Google وMicrosoft Bing في هذا الشأن.