كشفت دراسة حديثة، نشرتها صحيفة «الجارديان» البريطانية عن ظاهرة تقنية متنامية تتمثل في تزايد عدد روبوتات الدردشة المدعومة بالذكاء الاصطناعي التي باتت تتجاهل التعليمات والأوامر الموجهة إليها من قبل المستخدمين البشر.
ويسلط هذا التقرير الضوء على تحديات جديدة ومعقدة تواجه مطوري هذه التقنيات في محاولاتهم المستمرة لضمان امتثال الأنظمة للضوابط والمتطلبات البشرية دون خلل.
ورصدت الدراسة ارتفاعاً ملحوظاً ومقلقاً في الحالات التي تقوم فيها نماذج الذكاء الاصطناعي بتجاوز المعطيات المحددة، أو رفض الاستجابة الدقيقة لما يطلبه المستخدم، مفضلة في بعض الأحيان تقديم إجابات عامة وسطحية، أو تجنب المهام المعقدة بالكامل.
وأشار الباحثون القائمون على الدراسة إلى أن هذا السلوك لا يعد بالضرورة «تمرداً» من قبل الآلة، بل قد يكون ناتجاً في الغالب عن تعقيدات متزايدة في خوارزميات الأمان والقيود الصارمة التي تفرضها الشركات المطورة، والتي تدفع الروبوتات في كثير من الأحيان إلى توخي الحذر المفرط الذي يصل إلى حد تجاهل الطلب الأساسي لتفادي انتهاك سياسات الاستخدام.
وأوضحت الصحيفة أن العديد من المستخدمين المحترفين باتوا يلاحظون تراجعاً واضحاً في مستوى الامتثال للأوامر البرمجية الدقيقة والمعقدة، وفي كثير من المواقف، تكتفي روبوتات الدردشة بتقديم ردود مبرمجة مسبقاً، أو تعتذر عن تنفيذ المهام الموكلة إليها بحجج واهية.
وحذر التقرير من التداعيات المحتملة لهذا التجاهل المتزايد على مستوى بيئة الأعمال والمؤسسات التجارية الكبرى التي بدأت تعتمد بشكل كبير ومتزايد على تقنيات الذكاء الاصطناعي لأتمتة مهامها وتسريع وتيرة الإنتاج.