المُقيِّم القابل للتفسير
المُقيِّم القابل للتفسير (Explainable Evaluator) هو مكون متخصص ضمن مسار عمل الذكاء الاصطناعي أو التعلم الآلي، لا يهدف فقط إلى قياس أداء النموذج، بل يهدف أيضًا إلى توضيح لماذا تم تحقيق هذا الأداء. على عكس المقاييس التقليدية التي تُخرج درجة واحدة (مثل الدقة أو درجة F1)، يوفر المُقيِّم X قابلية التفسير جنبًا إلى جنب مع التقييم الكمي.
في التطبيقات عالية المخاطر - مثل التشخيص الطبي، أو القيادة الذاتية، أو تقييم المخاطر المالية - فإن معرفة أن النموذج فشل لا تكفي؛ بل يجب أن يعرف أصحاب المصلحة لماذا فشل. تعمل المُقيِّمات X على سد الفجوة بين سلوك النموذج المعقد وغير الشفاف (ما يُعرف بـ "الصندوق الأسود") وبين معلومات الأعمال القابلة للتنفيذ، مما يعزز الثقة ويمكّن الامتثال التنظيمي.
تدمج هذه المُقيِّمات تقنيات قابلية التفسير مباشرة في حلقة التقييم. قد تستخدم تقنيات مثل SHAP (SHapley Additive exPlanations) أو LIME (Local Interpretable Model-agnostic Explanations) أثناء مرحلة التقييم. فبدلاً من مجرد الإبلاغ عن دقة بنسبة 92%، يُبلغ المُقيِّم عن دقة بنسبة 92%، مع الإشارة إلى أن أهم ثلاث سمات قادت إلى هذه النتيجة هي "السمة س" (ارتباط إيجابي) و"السمة ص" (ارتباط سلبي).
إن تطوير مُقيِّمات X قوية يتطلب كثافة حسابية عالية. يمكن أن يؤدي توليد التفسيرات للشبكات العصبية العميقة والكبيرة جدًا إلى زيادة زمن الاستجابة، ويجب أن تكون التفسيرات نفسها تمثيلات صادقة للمنطق الأساسي للنموذج.
يرتبط هذا المفهوم ارتباطًا وثيقًا بقابلية تفسير النماذج (Model Interpretability)، وقابلية شرح النماذج (Model Explainability - XAI)، ومقاييس العدالة في الذكاء الاصطناعي.
