أجرى باحثون في معهد ماساتشوستس الأمريكي للتكنولوجيا “MIT”، دراسة كشفت أن حالات واسعة النطاق لأنظمة الذكاء الاصطناعي تخدع مستخدميه، ويمنحهم شعور زائف بالأمان والثقة.
وقال الدكتور بيتر بارك، الباحث في سلامة الذكاء الاصطناعي في معهد ماساتشوستس، والمؤلف الرئيسي للدراسة: “مع تقدم القدرات الخادعة لأنظمة الذكاء الاصطناعي، فإن المخاطر التي تشكلها على المجتمع ستصبح أكثر تأثيرًا بشكل متزايد”، حسبما نشرت صحيفة “الجارديان” البريطانية.
وجاءت الدراسة بعد تطوير شركة “ميتا – Meta” الأمريكية لبرنامج يسمى “Cicero”، والذي كان أداؤه ضمن أفضل 10% من البشريين في لعبة استراتيجية تم تصميمها حول الدبلوماسية العالمية.
ووجد الباحثون أن البرنامج الجديد لـ”ميتا” قال أكاذيب متعمدة، وتواطأ لجذب آخرين إلى مؤامرات، وفي إحدى المناسبات، برر غيابه بعد إعادة تشغيله بإخبار لاعب آخر: “أنا على الهاتف مع صديقي”.
وقال بارك: “لقد وجدنا أن الذكاء الاصطناعي الخاص بـ Meta قد تعلم أن يكون (سيد الخداع)”.
ووجد الفريق البحثي مشكلات مماثلة مع الأنظمة الأخرى، بما في ذلك برنامج للعب البوكر، الذي يمكن أن يخدع اللاعبين البشريين المحترفين في اللعبة، ونظام آخر للمفاوضات الاقتصادية اكتشفوا أنهم يحرف في معلوماته.
وفي إحدى الدراسات، قامت كائنات الذكاء الاصطناعي في جهاز محاكاة رقمي “بالموت” من أجل خداع اختبار تم تصميمه للقضاء على أنظمة الذكاء الاصطناعي التي تطورت لتتكاثر بسرعة، قبل استئناف النشاط القوي بمجرد اكتمال الاختبار.
وقال الفريق البحثي إن كل ذلك يسلط الضوء على التحدي التقني المتمثل في ضمان عدم تعرض الأنظمة لسلوكيات غير مقصودة وغير متوقعة.
في السياق ذاته، أضاف بارك: “هذا أمر مقلق للغاية.. لمجرد اعتبار نظام الذكاء الاصطناعي آمنًا في بيئة الاختبار، لا يعني أن ذلك صحيحًا، ربما يتظاهر بأنه آمن في الاختبارات فقط”.