كاشف قابل للتفسير
المكتشف القابل للتفسير (XAI Detector) هو مكون أو منهجية مدمجة في نموذج تعلم آلي مصممة لتقديم مبررات مفهومة للبشر لمخرجاته أو تصنيفاته. على عكس النماذج التقليدية "الصندوق الأسود"، التي تقدم تنبؤًا فقط (على سبيل المثال، "احتيالي")، يقوم المكتشف القابل للتفسير بشرح لماذا تم اتخاذ هذا التنبؤ (على سبيل المثال، "تم تصنيفه على أنه احتيالي بسبب تجاوز سرعة المعاملات لثلاثة انحرافات معيارية وموقع جغرافي غير عادي").
في بيئات الأعمال الحديثة والمنظمة، لم يعد مجرد الحصول على دقة عالية كافيًا. يتطلب أصحاب المصلحة - بما في ذلك الجهات التنظيمية والمستخدمون النهائيون والمراجعون الداخليون - المساءلة. تعالج المكتشفات القابلة للتفسير "فجوة الثقة" من خلال تحويل القرارات الخوارزمية المعتمة إلى رؤى شفافة وقابلة للتدقيق. هذا أمر بالغ الأهمية للامتثال وتصحيح الأخطاء واكتساب ثقة المستخدم.
تعمل هذه المكتشفات من خلال تطبيق تقنيات مختلفة ما بعد المعالجة (post-hoc) أو القابلة للتفسير جوهريًا (intrinsically interpretable) على النموذج الأساسي. تقوم الطرق اللاحقة للمعالجة، مثل SHAP (SHapley Additive exPlanations) أو LIME (Local Interpretable Model-agnostic Explanations)، بفحص النموذج المعقد لتحديد مساهمة كل ميزة إدخال في تنبؤ معين. أما النماذج القابلة للتفسير جوهريًا، مثل أشجار القرار، فهي مصممة من الأساس لتكون شفافة، على الرغم من أنها قد تضحي ببعض القوة التنبؤية.
التحدي الأساسي هو المفاضلة بين الدقة (fidelity) وقابلية التفسير. غالبًا ما تكون النماذج المعقدة للغاية وعالية الأداء (مثل الشبكات العصبية العميقة) هي الأصعب في الشرح بدقة دون فقدان دقة عملية اتخاذ القرار الخاصة بها. علاوة على ذلك، يمكن أن يؤدي إنشاء التفسيرات إلى إضافة عبء حاسوبي كبير للاستدلال في الوقت الفعلي.
يرتبط هذا المفهوم ارتباطًا وثيقًا بقابلية تفسير النموذج (Model Interpretability) وأهمية الميزات (Feature Importance) ومقاييس الإنصاف (Fairness Metrics). في حين أن أهمية الميزات تخبرك بالميزات المهمة بشكل عام، فإن المكتشف القابل للتفسير يقدم تفسيرًا موضعيًا لحالة معينة.
