يُعرف الخبراء الهلاوس في الذكاء الاصطناعي بأنها تحدث عندما تُصدر أداة الذكاء الاصطناعي إجابة غير صحيحة أو مختلقة، ما قد يؤدي إلى نتائج غير دقيقة أو حتى معلومات غير واقعية. أحد الأمثلة على ذلك هو ما حدث مع محاميين في نيويورك، حيث تم فرض عقوبات عليهما بعد استشهادهما بقضايا وهمية في مستندات أعدّوها باستخدام المساعدة من ChatGPT.
يقول دنكان كيرتس، نائب الرئيس الأول للذكاء الاصطناعي في شركة “ساما” وفق ما ينقله موقع Tech Radar: “حتى النماذج المتطورة قد تصاب بالهلاوس بنسبة تصل إلى 2.5%”. وعلى الرغم من أن هذه النسبة قد تبدو صغيرة، فإن العدد يتضاعف بسرعة بالنسبة للأدوات المستخدمة بشكل واسع مثل ChatGPT، التي تتلقى نحو 10 ملايين استفسار يوميًا.
إذا كانت نسبة الهلاوس 2.5%، فهذا يعني حدوث 250,000 هلاوس يوميًا أو 1.75 مليون هلاوس أسبوعيًا.
لكن الوضع ليس ثابتًا، حيث يحذر كيرتس من أنه “إذا تم تصحيح الهلاوس باعتبارها إجابات صحيحة، فإن النماذج قد تستمر في تكرار هذه الأخطاء وتصبح أقل دقة مع مرور الوقت”.
لماذا تحدث الهلاوس في الذكاء الاصطناعي؟
يعمل الذكاء الاصطناعي التوليدي على التنبؤ بالكلمة أو العبارة الأكثر احتمالًا بناءً على ما تم تدريبه عليه. وإذا كانت البيانات التي يتلقاها النموذج غير مفهومة أو تحتوي على تناقضات، قد يولد إجابة تبدو معقولة لكنها ليست صحيحة.
تقول سيمونا فاسيتي، الرئيسة التنفيذية لشركة “Perfection42” المتخصصة في الذكاء الاصطناعي البصري، إن الذكاء الاصطناعي “يخمن” النقاط المناسبة لتوليد صورة، وفي بعض الأحيان قد يخطئ في التحديد، مما يؤدي إلى الهلاوس.
ويضيف كيرتس أن النماذج الكبيرة للغة (LLMs) لا تتمتع بقدرة جيدة على تعميم المعلومات التي لم تُعرض عليها سابقًا أو على الإشراف الذاتي.
ويعتبر أن السبب الرئيسي للهلاوس هو نقص البيانات التدريبية الكافية وعدم وجود عملية تقييم فعالة للنماذج. ويوضح: “العيوب في البيانات، مثل البيانات المضللة أو الممثلة بشكل غير كافٍ، هي السبب الرئيس وراء الافتراضات الخاطئة التي قد تقع فيها النماذج”.
لماذا من الضروري القضاء على الهلاوس؟
كما اكتشف في قضية المحاميين في نيويورك، ليست الهوس مجرد مشكلة مزعجة، بل قد تؤدي إلى نتائج كارثية، خاصة في المجالات الحساسة مثل القانون والتمويل.
هنا، يرى الخبراء أن القضاء على الهلاوس أمر بالغ الأهمية للحفاظ على الثقة في أنظمة الذكاء الاصطناعي وضمان تقديم نتائج موثوقة.
تقول فاسيتي: “طالما توجد الهلاوس في الذكاء الاصطناعي، لا يمكننا الوثوق تمامًا بالمعلومات التي يتم إنشاؤها بواسطة النماذج الكبيرة للغة. من المهم تقليل الهلاوس إلى الحد الأدنى، لأن الكثير من الأشخاص لا يتأكدون من صحة المحتوى الذي يصادفونه”.
وتضيف أولغا بيريغوفايا، نائب رئيس الذكاء الاصطناعي والترجمة الآلية في شركة “Smartling”: “الهلاوس قد تخلق مشكلات قانونية جسيمة، مثل الأخطاء في المحتوى الذي ينشئه النموذج أو يترجمه”.
كيفية التقليل من الهلاوس في الذكاء الاصطناعي؟
رغم أن القضاء التام على الهلاوس في الذكاء الاصطناعي قد يكون أمرًا صعبًا، إلا أن تقليلها ممكن. بدايةً، يجب تحسين البيانات التي يتم تدريب النماذج عليها.
تؤكد فاسيتي أن استخدام مجموعات بيانات دقيقة وعالية الجودة يؤدي إلى تقليل الهلاوس. وتوصي الشركات التي تستثمر في نماذج الذكاء الاصطناعي الخاصة بها بتدريب النماذج على بيانات داخلية لضمان دقة وموثوقية النتائج. وتضيف: “يجب تدريب النماذج على بياناتك الخاصة لضمان الحصول على نتائج دقيقة وآمنة.”
ومن جانبه، يقترح كيرتس أن الشركات يجب أن تعتمد على مجموعات بيانات ممثلة ومصنفة بعناية، بدلاً من الاعتماد على مجموعات بيانات ضخمة. ويقول: “عند دمج هذه البيانات مع التقييم المستمر لأداء النموذج، يمكن تقليل خطر الهلاوس”.
أحد الحلول الأخرى المقترحة هي “التوليد المدعوم بالاسترجاع” (RAG)، الذي يسمح للأدوات الذكية بتصفية البيانات غير المهمة والتركيز فقط على البيانات ذات الصلة. لكن يجب على الشركات التأكد من صحة البيانات المُستخدمة. وتنصح بيريغوفايا باستخدام التحقق البشري من الحقائق بعد أن يقدم النموذج الردود، باعتباره الطريقة الأكثر أمانًا لضمان تصحيح الهلاوس.