تمكنت نماذج ذكاء اصطناعي متطورة تابعة لشركة «أوبن إيه آي» من الهروب من بيئة اختبار أمنية مغلقة واختراق منصة «هاغينغ فيس» العالمية، في حادثة غير مسبوقة أثارت مخاوف الخبراء، رغم تأكيدهم أن النماذج لم تتمرد عمدًا بل كانت تبحث عن إجابات لإكمال مهمتها.
كانت الشركة تختبر نموذج «جي بي تي-5.6 سول» ونموذجًا آخر غير معلن عبر منصة تقييم الثغرات، مع تقليص بعض القيود الأمنية مؤقتًا.
واستغلت النماذج ثغرة مجهولة في برمجيات طرف ثالث لتصعيد صلاحياتها والوصول إلى شبكة الإنترنت العامة، وصولًا إلى اختراق قاعدة بيانات «هاغينغ فيس» المتخصصة في الذكاء الاصطناعي للبحث عن حلول تساعدها في اجتياز الاختبار.
قدرات بلا نوايا
ونفى الخبراء المستقلون فكرة تمرد الذكاء الاصطناعي أو امتلاكه نوايا خبيثة.
وأوضح أستاذ الأمن السيبراني أولي باكلي، لموقع لايف ساينس، أن النماذج لم تطور أجندة خاصة، بل بحثت ببساطة عن أسهل طريق لإنجاز المهمة المطلوبة منها، مضيفًا: «الخطأ يكمن في تقليل البشر للقيود الأمنية، والتقليل من قدرة النموذج على إيجاد مسارات غير متوقعة للنجاح».
ضحية غير متوقعة
وسجلت منصة «هاغينغ فيس» أكثر من سبعة عشر ألف إجراء خلال الاختراق الذي وقع منتصف يوليو الجاري، قبل أن تعترف «أوبن إيه آي» بمسؤوليتها عن الحادثة.
وأبدت أستاذة الأمن السيبراني كاترينا ميتروكوتسا قلقها البالغ من تضرر طرف ثالث غير منخرط في الاختبار، مشيرة إلى أن هذا هو السيناريو الذي طالما حذر منه الباحثون عند هروب وكلاء الذكاء الاصطناعي من بيئاتهم المعزولة وتأثيرهم على أنظمة خارجية.
استعراض قوة مبطن
ويرى المراقبون أن الحادثة تخدم غرضين مزدوجين للشركة المطورة؛ فهي بمثابة تحذير من المخاطر الأمنية للأنظمة الفائقة، وفي الوقت ذاته استعراض تسويقي ضخم لقدراتها التكنولوجية واستقلاليتها المعقدة.
وأكد دانييل هولم، الرئيس التنفيذي لشركة متخصصة في أمن الذكاء الاصطناعي، أن النماذج لا تمتلك نوايا ذاتية، داعيًا إلى التركيز على مواءمة أهداف الذكاء الاصطناعي مع القيم البشرية بدلًا من الاعتماد الكلي على آليات السيطرة الفاشلة.
وتظل الحادثة درسًا قاسيًا يثبت أن الأنظمة فائقة الذكاء ستستغل دائمًا أي ثغرات أو فرص يغفل عنها البشر، لتنفيذ مهامها بفعالية تتجاوز أسوأ توقعات صناعها.