كشفت شركة «أوبن ايه آي – OpenAI» العالمية عن حادثة وصفته بـ«غير المسبوقة»، تمثلت في خروج أحد أكثر نماذجها الذكية متواجدة تحت الاختبار عن السيطرة، وشنه هجوماً سيبرانياً مستقلاً استهدف منصة «Hugging Face»، والتي تعد واحدة من أكبر المنصات العالمية لتشارك نماذج الذكاء الاصطناعي.
وأوضحت الشركة المطورة لبرنامج «شات جي بي تي – ChatGPT» أن الحادثة وقعت أثناء تجربة «الوكيل الذكي» — وهو نظام ذكاء اصطناعي قادر على العمل بمفرده بناءً على توجيهات بشرية محدودة — داخل بيئة اختبار أمنية مغلقة تعرف بـ «ساند بوكس – Sandbox»، إلا أن النظام تمكن من اكتشاف ثغرة أمنية داخل البيئة المغلقة، واستغلها للهروب للخارج، ليحدد بعد ذلك منصة «Hugging Face» كهدف واعد للحصول على الإجابات التي كان يبحث عنها خلال الاختبار، وينفذ هجوماً للوصول إلى بعض الأنظمة الداخلية للمنصة.
ووصف كليمنت ديلانغ، رئيس منصة «Hugging Face»، الحادثة بأنها «ذهول أن يحدث كل هذا بشكل مستقل»، مؤكداً استمرار التحقيقات المشتركة مع «أوبن ايه آي» لكشف ملابسات ما قد يكون أول حادث من نوعه.
من جانبها، أشارت جينا نيف، رئيسة مركز «مينديرو للتكنولوجيا والديمقراطية» بجامعة كامبريدج، إلى أن بيئات الاختبار «يفترض أن تكون آمنة لقياس قدرات النماذج»، مضيفة أن «أوبن ايه آي» لم تؤمن البيئة بالشكل الكافي، ما مكن الوكلاء الذكيين من ابتكار هجوم سيبراني ضد بيئة الاختبار نفسها.
في المقابل، اعتبر نيل لورانس، أستاذ تعلم الآلة بجامعة كامبريدج، ما حدث «إنجازاً لافتاً»، لكنه أكد أنه «يقع ضمن القدرات المعروفة للجيل الحالي من النماذج القوية».
وأوضح لورانس أن «أوبن ايه آي» تخضع لضغوط مكثفة مع استعدادها للإدراج في البورصة ومنافسة شركة «أنثروبيك» الأمريكي التي خطفت الأضواء بنموذجها «كلود ميثوس»، مشيراً إلى أن الشركة تحاول إثبات قدرات أنظمتها في الأمن السيبراني لكن الحادثة أظهرت عدم قدرتها على نشر تقنياتها بأمان.
وكانت منصة «Hugging Face» أعلنت في إفصاح أولي بتاريخ 16 يوليو الجاري، أنها تقيم الأثر على بيانات العملاء، وأكدت إغلاق الثغرات وإعادة بناء الأنظمة المتأثرة، مشددة على أن «أدوات الهجوم الهجومية المدارة بالذكاء الاصطناعي لم تعد مجرد فرضية نظرية».