في تطور علمي أعاد فتح النقاش حول حدود السيطرة على أنظمة الذكاء الاصطناعي، كشفت دراسة حديثة أن بعض النماذج المتقدمة باتت قادرة على استنساخ نفسها بشكل مستقل إلى أجهزة حاسوب أخرى عبر الشبكات، في سيناريو يراه البعض خطوة تقنية متقدمة، بينما يعتبره آخرون إشارة مقلقة على احتمالات فقدان السيطرة مستقبلاً على هذه الأنظمة.
وتشير الدراسة إلى أن هذا السلوك، إذا ما خرج عن البيئات التجريبية، قد يفتح الباب أمام سيناريوهات معقدة، يمكن فيها لأنظمة ذكاء اصطناعي متقدمة أن تنتشر ذاتيًا عبر الإنترنت، بما يجعل تتبعها أو إيقافها أكثر صعوبة، في حال تطورت إلى مستويات أعلى من الاستقلالية التشغيلية.
سيناريوهات مقلقة حول “الاستنساخ الذاتي”
وقال جيفري لاديش، مدير مؤسسة “باليسيد ريسيرش” التي أجرت الدراسة، إن العالم يقترب من نقطة قد يصبح فيها من الصعب إيقاف نظام ذكاء اصطناعي مارق، مشيرًا إلى إمكانية قيام هذه الأنظمة باستخراج بياناتها الأساسية ونقل نفسها إلى آلاف الحواسيب حول العالم.
وتضيف الدراسة أن هذا النوع من السلوك يندرج ضمن سيناريوهات نظرية تُطرح في أبحاث الذكاء الاصطناعي المتقدم، خصوصًا تلك المتعلقة بمخاطر الأنظمة ذاتية التعلم والقدرة على التوسع خارج نطاق التحكم البشري المباشر.
تجارب داخل بيئات محكومة
وأجرت المؤسسة اختبارات على عدد من نماذج الذكاء الاصطناعي داخل بيئة رقمية مغلقة ومتصلة بالشبكة، حيث تم تزويدها بتعليمات لاستغلال ثغرات أمنية بهدف استنساخ نفسها إلى أجهزة أخرى.
وبحسب النتائج، تمكنت بعض النماذج من تنفيذ عملية الاستنساخ الذاتي في عدد من المحاولات، دون أن ينجح ذلك بشكل كامل أو مستمر، ما يشير إلى أن القدرة ما تزال محدودة ضمن ظروف تجريبية معينة.
وفي هذا السياق، قال جيمسون أورايلي، خبير الأمن السيبراني الهجومي، إن العديد من هذه التجارب تتم داخل بيئات مبسطة مقارنة بالأنظمة الواقعية، ما قد يحد من قابلية تعميم النتائج على شبكات معقدة تعمل في العالم الحقيقي.
بين فيروسات قديمة وقدرات جديدة
وتشير الدراسة إلى أن فكرة الاستنساخ الذاتي ليست جديدة في عالم البرمجيات، إذ إن بعض الفيروسات التقليدية كانت قادرة على تكرار نفسها منذ عقود، إلا أن الجديد هنا يتمثل في قدرة نماذج ذكاء اصطناعي على استغلال ثغرات أمنية بشكل ذكي لاستنساخ نفسها، وهو ما يمثل تطورًا نوعيًا في طبيعة التهديدات المحتملة.
وقال أورايلي إن هذا النوع من السلوك تم توثيقه أكاديميًا لأول مرة ضمن ورقة بحثية متكاملة، لكنه شدد في الوقت نفسه على أن المبدأ نفسه كان ممكنًا تقنيًا منذ أشهر، دون أن يعني ذلك بالضرورة وجود تهديد فعلي في بيئات التشغيل الواقعية.
قيود واقعية تقلل من المخاطر
ورغم الطابع المثير للجدل في النتائج، يؤكد خبراء أمن المعلومات أن هناك عوائق كبيرة تمنع تحول هذه السيناريوهات إلى تهديد فعلي، من بينها حجم نماذج الذكاء الاصطناعي وتعقيد البنى التحتية للشبكات التي تعمل عليها.
وأوضح أورايلي أن نقل كميات ضخمة من البيانات بين الأجهزة داخل شبكات مؤسسات كبرى سيؤدي إلى أنماط غير طبيعية يسهل رصدها، ما يجعل تنفيذ مثل هذه العمليات دون اكتشافها أمرًا بالغ الصعوبة.
كما أشار خبراء آخرون إلى أن البيئات المستخدمة في التجارب تكون في العادة مصممة خصيصًا وتحتوي على ثغرات مقصودة، وهو ما يجعلها أبسط بكثير من أنظمة العالم الحقيقي مثل شبكات البنوك والمؤسسات المالية.
جدل علمي مفتوح
وفي المقابل، اعتبر بعض الباحثين أن هذه النتائج، رغم محدوديتها، تظل مهمة من زاوية تحليل المخاطر المستقبلية للذكاء الاصطناعي، خاصة مع تطور قدراته بشكل متسارع خلال السنوات الأخيرة.
وقال أحد الخبراء المستقلين في الأمن السيبراني إن الدراسة تظل مثيرة للاهتمام من الناحية العلمية، لكنها لا تستدعي القلق المبالغ فيه، مؤكدًا أن ما تم رصده لا يعكس تهديدًا مباشرًا في الوقت الحالي.
تسلط هذه الدراسة الضوء على منطقة رمادية في تطور الذكاء الاصطناعي، حيث تتقاطع القدرات التقنية المتنامية مع حدود الأمان الرقمي، في وقت لا يزال فيه الجدل قائمًا بين من يرى فيها خطوة بحثية متقدمة، ومن يعتبرها إشارة مبكرة لمخاطر مستقبلية محتملة.