يعمل باحثون في معهد ماساتشوستس للتكنولوجيا على تطوير أساليب جديدة تمكّن أنظمة الذكاء الاصطناعي من شرح قراراتها بطريقة مفهومة.
ويهدف هذا التوجه إلى جعل نماذج التعلم الآلي لا تقتصر على تحقيق الدقة فحسب، بل تتميز أيضاً بدرجة أعلى من الشفافية، بما يسمح للبشر بفهم الأسس التي تعتمد عليها هذه الأنظمة في إصدار تنبؤاتها.
وتتزايد أهمية تفسير قرارات الذكاء الاصطناعي مع اتساع استخدامه في مجالات حساسة مثل الرعاية الصحية والنقل والبحث العلمي. ففي هذه القطاعات، لا يكفي أن يقدم النظام نتيجة أو تشخيصاً فحسب، بل يحتاج المستخدمون إلى معرفة العوامل التي أدت إلى هذه النتيجة قبل أن يثقوا بها أو يعتمدوا عليها في اتخاذ قراراتهم.
فعلى سبيل المثال، قد يرغب الطبيب الذي يراجع تشخيصاً صادراً عن نظام ذكاء اصطناعي في معرفة الخصائص أو المؤشرات التي دفعت النموذج إلى الاشتباه بوجود مرض معين.
كما يحتاج المهندسون العاملون على تطوير السيارات ذاتية القيادة إلى فهم الإشارات أو الأنماط التي جعلت النظام يحدد وجود مشاة أو يفسر موقفاً مرورياً معيناً.
ورغم هذه الحاجة المتزايدة إلى التفسير، فإن كثيراً من نماذج التعلم العميق تعتمد على شبكات رياضية معقدة تضم أعداداً هائلة من المتغيرات.
صحيح أن هذه الأنظمة قادرة على اكتشاف أنماط دقيقة داخل البيانات، إلا أن الطريقة التي تصل بها إلى قراراتها تظل في كثير من الأحيان غير واضحة للبشر. وقد أصبح هذا الغموض أحد أبرز التحديات التي يواجهها مجال الذكاء الاصطناعي الحديث.
ومن هنا ظهر مجال بحثي يعرف باسم «الذكاء الاصطناعي القابل للتفسير»، ويهدف إلى تطوير أدوات وتقنيات تساعد على توضيح كيفية توصل الأنظمة الذكية إلى نتائجها. ويساعد هذا التوجه الباحثين والمستخدمين على تقييم موثوقية النماذج، واكتشاف الأخطاء المحتملة، وتعزيز الثقة في الأنظمة المؤتمتة.
وركز باحثو معهد ماساتشوستس للتكنولوجيا على تطوير منهجية تعرف باسم «نموذج عنق الزجاجة المفاهيمي».
ويقوم هذا النهج على جعل عملية التفكير داخل نظام الذكاء الاصطناعي أكثر وضوحاً بالنسبة للبشر، من خلال إدخال مرحلة وسيطة بين البيانات الخام والنتيجة النهائية.
فبدلاً من انتقال النظام مباشرة من البيانات إلى القرار، يقوم أولاً بتحديد مجموعة من المفاهيم أو الخصائص التي يمكن للبشر فهمها، ثم يعتمد على هذه المفاهيم كأساس لاتخاذ القرار.
وعلى سبيل المثال، إذا كان النظام مدرباً على التعرف إلى أنواع الطيور من الصور، فإنه قد يبدأ بتحديد سمات بصرية مثل لون الأجنحة أو شكل الأرجل، ثم يستخدم هذه السمات لتصنيف الطائر ضمن نوع معين.
وفي تطبيقات التصوير الطبي، قد تتضمن هذه المفاهيم مؤشرات بصرية محددة، مثل أنماط معينة في الأنسجة أو أشكال غير طبيعية قد تدل على وجود مرض.
ومن خلال ربط التنبؤات بهذه المفاهيم الواضحة، يصبح من الأسهل على المستخدمين فهم المسار الذي اتبعه النظام للوصول إلى قراره.
لكن هذا النهج واجه في مراحله الأولى بعض القيود، إذ كانت المفاهيم التي يعتمد عليها النظام تُحدد مسبقاً من قبل الخبراء. وفي كثير من الحالات، قد لا تعكس هذه المفاهيم بدقة التعقيد الحقيقي للمهمة التي يؤديها النموذج، فقد تكون عامة أكثر من اللازم أو غير مرتبطة مباشرة بالأنماط التي يستخدمها النظام فعلياً أثناء التحليل.
وقد يؤدي ذلك أحياناً إلى تقليل دقة النموذج أو تقديم تفسير لا يعكس طريقة عمله الحقيقية.
ولهذا سعى فريق البحث إلى تطوير طريقة مختلفة تستخرج المفاهيم مباشرة من داخل النموذج نفسه. فبدلاً من فرض مفاهيم جاهزة عليه، تعمل التقنية الجديدة على تحليل البنية الداخلية للنموذج واكتشاف الأنماط التي تعلمها خلال مرحلة التدريب. وبعد ذلك تُحوَّل هذه الأنماط إلى مفاهيم يمكن للبشر فهمها واستخدامها لتفسير قرارات النظام.
ولتحقيق ذلك، جمع الباحثون بين عنصرين من تقنيات التعلم الآلي. يقوم العنصر الأول بتحليل مكونات النموذج المدرب لتحديد الخصائص الأكثر تأثيراً في التنبؤات التي يصدرها، بينما يعمل العنصر الثاني على ترجمة هذه الخصائص إلى مفاهيم قابلة للفهم البشري.
وبمجرد تحديد هذه المفاهيم، يصبح النظام ملزماً بالاعتماد عليها عند إصدار توقعاته، ما يؤدي إلى إنشاء سلسلة منطقية واضحة تربط بين البيانات المدخلة والنتيجة النهائية.
ويشبه الباحث الرئيسي في المشروع هذه العملية بمحاولة فهم طريقة تفكير الإنسان، موضحاً أن الهدف هو الوصول إلى وسيلة تسمح بقراءة ما يجري داخل نماذج الرؤية الحاسوبية ومعرفة الأسباب التي دفعتها إلى اتخاذ قرار معين.
ويرى الباحثون أن الاعتماد على مفاهيم مستخرجة من المعرفة الداخلية للنموذج يمكن أن يوفر تفسيرات أكثر دقة ووضوحاً مقارنة بالطرق التقليدية.
ويبقى تحقيق التوازن بين دقة النماذج وإمكانية تفسيرها أحد أكبر التحديات في مجال الذكاء الاصطناعي القابل للتفسير. فالنماذج الأكثر تعقيداً غالباً ما تقدم أعلى مستويات الدقة، لكنها تكون في المقابل أكثر صعوبة في الفهم.
ويسعى النهج الجديد إلى معالجة هذه المشكلة عبر التركيز على عدد محدود من المفاهيم الأكثر أهمية لتفسير كل تنبؤ، بدلاً من الاعتماد على شبكة واسعة من العلاقات الخفية داخل النموذج.
كما يسهم هذا الأسلوب في الحد من ظاهرة تعرف باسم «تسرب المعلومات»، وهي الحالة التي يعتمد فيها النموذج على أنماط في البيانات لا تظهر في التفسير الذي يقدمه للمستخدمين. ومن خلال التركيز على الإشارات الأكثر صلة بالقرار، يمكن للنظام تقديم تفسير أقرب إلى الطريقة الفعلية التي يعمل بها.
ومع تزايد اعتماد المؤسسات والقطاعات المختلفة على أنظمة الذكاء الاصطناعي في اتخاذ القرارات، تصبح الحاجة إلى فهم آلية عمل هذه الأنظمة أكثر إلحاحاً. فالشفافية لا تساعد فقط على تعزيز الثقة، بل تتيح أيضاً اكتشاف التحيزات المحتملة وتحسين موثوقية الأنظمة وضمان عملها وفق ما هو متوقع.
وفي هذا الإطار، يمثل البحث الذي يجريه فريق معهد ماساتشوستس للتكنولوجيا خطوة مهمة نحو تطوير أنظمة ذكاء اصطناعي أكثر وضوحاً ومساءلة، بما يسهم في تقليص الفجوة بين تعقيد الخوارزميات وقدرة البشر على فهمها.