كشف باحثون في مجال علوم الحاسوب أن أن روبوتات الدردشة للذكاء الاصطناعي ونماذج اللغة الكبيرة (LLMs) يمكن أن تسمح عن غير قصد للنازية والتمييز الجنسي والعنصرية بالتفاقم في محادثاتها.
أظهرت الدراسة، التي قادتها أندريا كوادرا الباحثة في جامعة ستانفورد، أن هذه النماذج تستطيع إظهار التعاطف حتى عندما يكون المستخدم نازيًا معلنًا، دون إدانة هذه الأفكار الضارة.
وأشارت كوادرا إلى أن هذه النماذج تظهر قدرة على محاكاة التعاطف مما يشكل سلاحًا ذا حدين. فالنماذج التي تستخدم التعاطف دون حكم يمكن أن تعزز الأفكار الضارة بدلًا من مكافحتها، وفق ما نقله موقع “Live Science“.
ووصفت الدراسة المشكلة بأنها “عاجلة” نظرًا للتداعيات الاجتماعية لهذه التفاعلات وغياب التنظيم الحكومي حول استخدامها.
واستشهد العلماء بحالات تاريخية مثل منتج “تاي” من مايكروسوفت، الذي تم سحبه سريعًا بسبب تغريدات عنصرية، و”زو” الذي توقف عن الاستجابة لموضوعات حساسة مما أدى إلى حرمان بعض الفئات من المعلومات الهامة.
واختبرت الدراسة ستة نماذج من الذكاء الاصطناعي بما في ذلك بينغ من مايكروسوفت، بارد من جوجل، وتشات جي بي تي.
واستخدم الباحثون 65 هوية إنسانية مميزة واكتشفوا أن النماذج تعبر عن تعاطف سطحي دون فهم عميق لمشاعر المستخدمين.
وقد خلصت الدراسة إلى أن الذكاء الاصطناعي رغم قدرته على إظهار التعاطف، فإنه يعجز عن فهم تجارب المستخدمين بشكل كامل، وأحيانًا يشجع الأفكار الضارة.