يستخدم مئات الملايين من الأشخاص حول العالم روبوت الدردشة تشات جي بي تي التابع لشركة أوبن إيه آي كوسيلة سريعة للحصول على إجابات وحلول لمجموعة واسعة من الأسئلة اليومية. ومع الانتشار الواسع لهذه التقنية، يزداد الاعتماد عليها في مجالات متعددة، إلا أن هذا الاستخدام لا يخلو من تحديات ومخاطر، إذ قد تنتج عنها أحياناً معلومات غير دقيقة أو مضللة يمكن أن تقود إلى قرارات خاطئة أو تبعات غير مرغوبة على الصعيد الصحي أو القانوني أو الشخصي.
المشكلات الصحية
حذّرت دراسة نُشرت في مجلة حوليات الطب الباطني من خطورة استخدام الذكاء الاصطناعي على الصحة، سواء تشات جي بي تي أو منافسيه. ووجد الباحثون أنه بإمكانهم بسهولة برمجة أنظمة الذكاء الاصطناعي لتقديم إجابات غير صحيحة، وربما ضارة، على الأسئلة المتعلقة بالصحة. والأسوأ من ذلك، أن برامج الدردشة الآلية تغلّف إجاباتها الخاطئة بأسلوب مقنع.
الاضطرابات النفسية
وأشارت دراسة أجراها أطباء من هيئة الخدمات الصحية الوطنية في المملكة المتحدة من أن برامج الذكاء الاصطناعي قد تُضخم المحتوى الوهمي أو المبالغ فيه لدى المستخدمين المعرضين للإصابة باضطرابات نفسية. وأضافت أن سلوك هذه البرامج قد يعود إلى تصميم نماذجها بهدف زيادة التفاعل والتأكيد على صحة المعلومات، موضحة أنه حتى لو استفاد بعض الأفراد من التفاعل مع الذكاء الاصطناعي، إلا أن هناك قلقاً من أن هذه الأدوات قد تشوش حدود الواقع.
قرارات السلامة الفورية
ينبّه موقع سي نت التقني إلى أنه في حالات الطوارئ لا ينبغي الاعتماد على تشات جي بي تي. ويوضح: إذا بدأ جهاز إنذار أول أكسيد الكربون في منزلك بالرنين، فلا تفتح التطبيق لتسأل إن كنت في خطر. غادر المنزل فوراً واسأل لاحقاً، مشيراً إلى أن نماذج الذكاء الاصطناعي لا تستطيع شمّ الغاز أو كشف الدخان أو استدعاء فرق الطوارئ. وفي الأزمات، كل ثانية تقضيها في الكتابة هي ثانية لا تُستثمر في الإخلاء أو الاتصال بالطوارئ.
النصائح المالية
في مقال له عبر مجلة فوربس، يحذّر كبير مسؤولي الأبحاث في كورنستون إدفايزرز للاستشارات المالية، رون شيفلين، من استخدام تشات جي بي تي”للحصول على النصائح المالية. إذ لا يمتلك الروبوت أحدث معلومات المنتجات، وتتغير الأسعار والرسوم وأداء المنتجات بشكل متكرر في القطاع المصرفي، بينما تدرّب “تشات جي بي تي” فقط على بيانات تنتهي صلاحيتها في 2021.
الأسرار الشخصية المهنية
وضع معلومات محظور نشرها في تشات جي بي تي يعني خروج هذه النصوص عن سيطرة المستخدم ودخولها إلى خادم تابع لجهة خارجية. هذا يخالف قوانين محلية وعربية وعالمية تخص أسرار المهنة وعدم الإفصاح. ينطبق هذا مثلاً على عقود العملاء، والسجلات الطبية، وأي شيء يخضع لقوانين خصوصية المستهلك، أو لوائح حماية البيانات، أو قوانين الأسرار التجارية. كذلك ينطبق على ضرائب دخل المستخدم، وشهادة ميلاده، ورخصة قيادته، وجواز سفره.
الأنشطة غير القانونية
يمكن للشرطة أن تعلم ما إذا كان المستخدم يتعاون مع الروبوت من أجل نشاط غير قانوني، ففي أغسطس 2025 اعترفت أوبن إيه آي بأنها تفحص محادثات المستخدمين وتبلغ الشرطة عن أي تفاعلات يعتبرها المراجِع البشري تهديداً خطيراً، حيث يُمكن في بعض الحالات أن تخضع المحادثات مع أنظمة الذكاء الاصطناعي لعمليات مراجعة أو تدقيق بهدف تحسين الأمان ومنع إساءة الاستخدام، خصوصاً عند الاشتباه في وجود تهديدات جدّية أو أنشطة غير قانونية.
الغش في الواجبات المدرسية
تتحسن برامج كشف استخدام الذكاء الاصطناعي للإجابة عن الأسئلة. وحتى من دونها يمكن للأساتذة، بحكم خبرتهم، رصد أسلوب تشات جي بي تي المعروف عندهم، حيث تتطور بشكل متسارع أدوات الكشف عن المحتوى المُولَّد بالذكاء الاصطناعي، بما في ذلك تلك التي تُستخدم لرصد الإجابات المكتوبة عبر روبوتات الدردشة عند الطلاب في البيئات التعليمية.
العقود القانونية
يحذّر مكتب ويستفيلد للوصايا والخدمات القانونية في إنكلترا من كتابة وصية باستخدم الذكاء الاصطناعي، إذ الوصية غير الصحيحة أو سيئة الصياغة قد تتسبب في نزاعات قانونية مكلفة مالياً لاحقاً. غالباً ما تكلف معالجة هذه الأخطاء أكثر بكثير من مجانية الروبوت. وعند استخدام الأخير يشارك المستخدم تفاصيل حساسة حول أمواله وعائلته وممتلكاته مع منصة ذكاء اصطناعي. كما قد يفتقر الروبوت إلى الخبرة لتقديم نصائح قانونية تحتاج إليها صيغة الوصية.