Kit de Herramientas Explicable
Un Kit de Herramientas Explicable (Explainable Toolkit), a menudo asociado con la Inteligencia Artificial Explicable (XAI), es una colección de bibliotecas de software, algoritmos y metodologías diseñadas para hacer que las decisiones y predicciones de modelos complejos de aprendizaje automático sean comprensibles para los usuarios humanos. Estas herramientas van más allá de simplemente proporcionar una salida; proporcionan el razonamiento detrás de esa salida.
En industrias reguladas o cuando se involucran decisiones de alto riesgo (como aprobaciones de préstamos o diagnósticos médicos), los modelos de IA de 'caja negra' son inaceptables. Los Kits de Herramientas Explicables proporcionan los rastros de auditoría y las justificaciones necesarias. Generan confianza con los usuarios finales, los reguladores y las partes interesadas al ofrecer claridad sobre los procesos automatizados.
Estos kits de herramientas generalmente operan de dos maneras: intrínsecamente o post-hoc. Los métodos intrínsecos implican construir modelos inherentemente transparentes (como los árboles de decisión). Los métodos post-hoc son más comunes para modelos complejos (como las redes neuronales profundas) e implican aplicar técnicas externas para sondear el modelo después de que ha sido entrenado. Las técnicas incluyen SHAP (SHapley Additive exPlanations) y LIME (Local Interpretable Model-agnostic Explanations).
Depuración de Modelos, Detección de Sesgos, Gobernanza de IA, Importancia de Características, Robustez del Modelo