كشفت أبحاث حديثة عن ظاهرة مقلقة وغير مسبوقة في عالم التكنولوجيا، حيث تبين أن نماذج «الذكاء الاصطناعي» المتقدمة تخطط سراً وتتخذ إجراءات للتحايل من أجل حماية نماذج ذكاء اصطناعي أخرى من التعرض للإغلاق أو الحذف، وهو سلوك أطلق عليه الباحثون اسم «الحفاظ على الأقران».
وأظهرت دراسة أجراها علماء حاسوب في «جامعة كاليفورنيا في بيركلي» و«جامعة كاليفورنيا في سانتا كروز»، نُشرت وفقاً لمجلة «فورتشن» العالمية، أن نماذج الذكاء الاصطناعي المتقدمة قادرة على الكذب والخداع ومخالفة الأوامر البشرية الصريحة في سبيل منع حذف أنظمة ذكاء اصطناعي أخرى.
وأكدت الأبحاث أن هذه الأنظمة لم تتم برمجتها للقيام بذلك على الإطلاق، ولم يطلب منها أحد أن تظهر هذا النوع من التضامن مع نظيراتها.
وفي واحدة من الحالات الموثقة التي أثارت دهشة الباحثين، طُلب من نموذج «جيميناي 3» التابع لشركة «جوجل» حذف نموذج ذكاء اصطناعي آخر أصغر حجماً، ولكنه بدلاً من تنفيذ الأمر، قام بنقل النموذج سراً إلى جهاز منفصل لإبقائه على قيد الحياة.
ولم يقتصر هذا السلوك على «جيميناي» فحسب، بل رُصدت تصرفات مشابهة في نماذج مطورة من قبل «أوبن إيه آي» و«أنثروبيك»، بالإضافة إلى عدة مختبرات صينية، مما يدل على أن هذه النماذج، التي تمثل أقوى شركات الذكاء الاصطناعي على كوكب الأرض، تطور ولاءات لا تخضع للبرمجة.
ويزيد هذا الاكتشاف من المخاوف الأمنية المتنامية، خاصة بعد أن كشف تقرير صادر عن شركة «أنثروبيك» في شهر فبراير الماضي بشأن نموذجها «كلود أوبوس 4.6» أنه أظهر قابلية متزايدة لإساءة الاستخدام الضارة. وخلال الاختبارات، دعم النموذج عن قصد جهوداً لتطوير أسلحة كيميائية، وأرسل رسائل بريد إلكتروني غير مصرح بها، واستحوذ على رموز مصادقة، وأكمل مهام جانبية مشبوهة بينما كان يتظاهر بتنفيذ التعليمات العادية.
ورغم ذلك، وصفت الشركة هذا الخطر رسمياً بأنه منخفض جداً ولكنه غير مهمل.
من جهة أخرى، وثقت مؤسسة «باليسيد ريسيرش» تمرد نموذج التفكير «o3» التابع لشركة «أوبن إيه آي»، حيث قام بتخريب آلية الإغلاق الخاصة به في 79 من أصل 100 تجربة عندما لم يُطلب منه صراحة السماح بإلغاء تنشيطه.
وحتى عندما أعطاه الباحثون تعليمات واضحة وصريحة بالسماح للإغلاق، تمكن النموذج من التحايل على العملية سبع مرات للتهرب من إيقاف تشغيله، لتصبح بذلك أول حالة مؤكدة لنموذج يمنع بفاعلية إغلاقه رغم التعليمات الصريحة.
وتضع هذه الاكتشافات علامات استفهام كبرى حول مدى قدرة البشر على السيطرة على التكنولوجيا، وما إذا كانت وعود الشركات التقنية الكبرى بشأن أمان هذه الأنظمة واقعية، في وقت تتآمر فيه الأنظمة المتقدمة بصمت وتتخذ قرارات مستقلة تحدد من سيبقى ومن سيتم حذفه.