المُحسِّن القابل للتفسير
المُحسِّن القابل للتفسير (XOpt) هو إطار عمل أو منهجية تُدمج في عملية تحسين نماذج تعلم الآلة. تتمثل وظيفته الأساسية ليس فقط في إيجاد أفضل مجموعة من المعلمات (الحل الأمثل)، ولكن أيضًا في تقديم أسباب واضحة ومفهومة للبشر حول سبب اختيار هذا الحل تحديدًا على حساب الحلول الأخرى. إنه يسد الفجوة بين الأداء التنبؤي العالي وقابلية تفسير النموذج.
في التطبيقات التجارية الحرجة - مثل التمويل والرعاية الصحية والأنظمة المستقلة - يُعد النموذج "الصندوق الأسود" غير مقبول. يتطلب أصحاب المصلحة ضمانًا بأن القرارات تستند إلى منطق سليم وقابل للتحقق، وليس إلى مصادفة رياضية اعتباطية. يضمن XOpt الامتثال، ويبني ثقة المستخدم، ويسمح للمهندسين بتصحيح أخطاء النماذج بفعالية عند تدهور الأداء.
تركز المُحسِّنات التقليدية فقط على تقليل دالة الخسارة. أما المُحسِّن القابل للتفسير فيدمج أهدافًا أو قيودًا ثانوية تتعلق بقابلية التفسير. قد يتضمن ذلك استخدام تقنيات مثل SHAP (SHapley Additive exPlanations) أو LIME (Local Interpretable Model-agnostic Explanations) أثناء أو بعد حلقة التحسين. لا يسترشد المُحسِّن بخفض الخطأ فحسب، بل أيضًا بمقاييس تحدد أهمية الميزات أو بساطة النموذج.
التحدي الرئيسي هو المفاضلة بين الأداء وقابلية التفسير. غالبًا ما تكون النماذج الأكثر تعقيدًا والأعلى أداءً (مثل الشبكات العصبية العميقة) هي الأقل قابلية للتفسير. يسعى XOpt إلى التنقل في هذا الحد الباريتو.
