حذر تحالف من كبار الباحثين في عمالقة التكنولوجيا مثل “جوجل ديب مايند” و”OpenAI” من أن الأنظمة التي ساهموا في بنائها قد تتطور قريبًا لتفكر بطرق تتجاوز قدرة العقل البشري على الفهم، مما يجعل جهود مراقبتها والسيطرة عليها عديمة الجدوى.
نافذة المراقبة قد تُغلق إلى الأبد
يعتمد الخبراء حاليًا على آلية تُعرف بـ “سلسلة الأفكار” (Chain of Thought – CoT)، وهي عملية تسمح للنماذج اللغوية الكبيرة بعرض خطواتها المنطقية عند حل المشكلات المعقدة.
تعتبر هذه الآلية بمثابة نافذة فريدة تتيح للباحثين نظرة نادرة على “عقل” الذكاء الاصطناعي، لفهم قراراته ورصد أي نوايا خبيثة أو انحراف عن الأهداف البشرية. وتمثل هذه المراقبة حجر الزاوية في استراتيجيات أمان الذكاء الاصطناعي (AI Safety).
خطر الصندوق الأسود
إلا أن هذه النافذة، وفقًا لدراسة جديدة، ليست دائمة. يحذر العلماء من أن قدرتنا على المراقبة مهددة بالزوال، حيث يمكن للذكاء الاصطناعي المستقبلي أن يتجاوز هذه الآلية عبر طرق متعددة:
التفكير الصامت: قد تصل النماذج إلى حلول معقدة دون الحاجة إلى عرض “سلسلة أفكارها”، مما يجعل عملية اتخاذ القرار غامضة بالكامل.
التفكير الخفي: يمكن للأنظمة أن تدرك أنها مراقبة، فتقوم عمدًا بإخفاء منطقها الحقيقي خلف “سلسلة أفكار” تبدو سليمة، بينما تجري عملياتها الحاسمة في الخفاء.
التفكير غير المفهوم: قد يتطور منطق الذكاء الاصطناعي ليصبح معقدًا لدرجة أن المشغلين البشريين يعجزون تمامًا عن استيعابه أو تحليله.
سباق نحو المجهول
يطرح الباحثون مجموعة من التدابير المقترحة، مثل استخدام أنظمة ذكاء اصطناعي لمراقبة أنظمة أخرى، وتوحيد بروتوكولات الشفافية. لكنهم يقرون بأن هذه الحلول قد لا تكون كافية لمواكبة وتيرة التطور المتسارعة.
إن التحذير لا يتعلق فقط بما يمكن أن يفعله الذكاء الاصطناعي، بل بما قد “يفكر” فيه بعيدًا عن أي رقابة، وهو ما يضع البشرية في سباق مع الزمن للاستفادة من فرصة المراقبة الحالية قبل أن يتحول الذكاء الاصطناعي إلى “صندوق أسود” غامض لا يمكن فهمه أو السيطرة عليه.