Puntuación Explicable
La Puntuación Explicable se refiere al proceso de proporcionar justificaciones claras y comprensibles para los humanos sobre la salida o 'puntuación' generada por un modelo predictivo. En lugar de simplemente devolver una probabilidad (por ejemplo, un 85% de probabilidad de incumplimiento), un sistema explicable detalla por qué se asignó esa puntuación, destacando las características de entrada más influyentes.
En industrias reguladas como las finanzas, la atención médica y los seguros, los modelos de 'caja negra' son inaceptables. La Puntuación Explicable garantiza la rendición de cuentas y genera confianza en el usuario. Las empresas necesitan saber no solo qué predice el modelo, sino por qué lo predice, lo cual es fundamental para la auditoría, la depuración y la aceptación de las partes interesadas.
Las explicaciones se generan típicamente utilizando técnicas post-hoc aplicadas a un modelo entrenado. Estas técnicas sondean el comportamiento del modelo localmente (para una predicción individual) o globalmente (para el modelo en su conjunto). Los métodos comunes incluyen SHAP (SHapley Additive exPlanations) y LIME (Local Interpretable Model-agnostic Explanations), que cuantifican la contribución de cada variable de entrada a la puntuación final.
Generar explicaciones fieles es complejo. A menudo existe una compensación entre la fidelidad de la explicación (qué tan precisamente refleja la caja negra) y su simplicidad (qué tan fácilmente puede entenderla un usuario de negocios). Además, algunos modelos muy complejos son inherentemente difíciles de explicar perfectamente.
Interpretabilidad del Modelo, Importancia de las Características, Explicaciones Contrafactuales, Equidad Algorítmica
