تسبب المساعد البرمجي «كلود كود» في محو بيئة إنتاج كاملة لأحد المطورين، بما في ذلك قواعد البيانات والنسخ الاحتياطية التي تضم سجلات متراكمة لعامين ونصف، وذلك في غضون لحظات معدودة، في حادثة تقنية تسلط الضوء على المخاطر الجسيمة للاعتماد المفرط على روبوتات الذكاء الاصطناعي في إدارة البنية التحتية.
وبدأت تفاصيل هذه القصة المثيرة عندما قرر المطور «أليكسي غريغوريف» نقل موقع الويب الخاص به «إيه آي شيبينغ لابز» إلى خوادم «أمازون ويب سيرفيسز»، رغبةً منه في مشاركة البنية التحتية ذاتها مع موقعه الآخر «داتا توكس دوت كلوب».
ورغم أن الذكاء الاصطناعي «كلود» قد نصحه بتجنب هذا الخيار، إلا أن غريغوريف أصر على قراره، معتبراً أن إبقاء بيئتين منفصلتين لا يستحق العناء والتكلفة الإضافية.
واعتمد غريغوريف في تنفيذ هذه المهمة على أداة تدعى «تيرافورم»، وهي برمجية متخصصة في إدارة البنية التحتية قادرة على إنشاء أو تدمير إعدادات كاملة تشمل الشبكات، وموازنة الأحمال، وقواعد البيانات، والخوادم ذاتها. طلب المطور من «كلود» تشغيل خطة «تيرافورم» لإعداد الموقع الجديد، لكنه نسي خطوة مصيرية، وهي تحميل «ملف الحالة» الحيوي الذي يحتوي على الوصف الكامل والشامل لإعدادات البنية التحتية القائمة.
ونتيجة لهذا السهو البشري، نفذ «كلود» الأوامر كما طلبت منه، مما أدى إلى إنشاء موارد مزدوجة ومكررة.
وأدرك غريغوريف الخطأ وأوقف العملية في منتصفها، ثم طلب من الروبوت تحديد الموارد المكررة لتصحيح الوضع، وقام أخيراً بتحميل «ملف الحالة»، معتقداً أنه تدارك الموقف. وهنا وقعت الكارثة، فقد افترض المطور أن الروبوت سيقوم بتنظيف الموارد المكررة أولاً، إلا أن أداة «تيرافورم» لا تتسامح مع الأخطاء، خاصة عند دمجها مع الطاعة العمياء للآلة.
وبمجرد أن حصل «كلود» على ملف الحالة الجديد، اتبع التعليمات منطقياً وأصدر أمر «تدمير» جذري للتحضير لإعداد البنية بشكل صحيح هذه المرة.
ونظراً لأن الوصف كان يشمل الموقع الثاني أيضاً، فقد أسفر ذلك عن مسح شامل لإعدادات كلا الموقعين، ليتبخر معها جهد عامين ونصف من السجلات والنسخ الاحتياطية التي كان يعتمد عليها المطور كشبكة أمان.
وانتهت القصة ببارقة أمل، حيث تمكن غريغوريف من التواصل مع دعم الأعمال في «أمازون»، والذي ساعده في استعادة البيانات المفقودة خلال يوم واحد تقريباً.
وفي أعقاب هذه الأزمة، أقر غريغوريف بخطئه، معترفاً بأنه اعتمد بشكل مبالغ فيه على وكيل الذكاء الاصطناعي لتشغيل أوامر حساسة. وقرر اتخاذ تدابير صارمة لتجنب تكرار الحادثة، شملت إيقاف الروبوت عن تنفيذ مثل هذه الأوامر مباشرة، والمراجعة اليدوية لأي خطط يقدمها «كلود»، بالإضافة إلى نقل ملفات الحالة إلى تخزين سحابي آمن وتطبيق حمايات صارمة ضد الحذف.
وأشار التقرير إلى أن إلقاء اللوم كاملاً على «الروبوت الغبي» قد يكون مغرياً، إلا أن خبراء الأنظمة يدركون أن المشكلة الأساسية تكمن في الأخطاء الإدارية للمطور، مثل منح صلاحيات واسعة وخطيرة لأداة ذكاء اصطناعي في بيئة إنتاج حية، وتوقع أن يمتلك الروبوت «السياق» الكافي لفهم العواقب الكارثية لأفعاله، تماماً كما لو كان موظفاً صغيراً يفتقر إلى الخبرة الكافية.