Pontuação Explicável
Pontuação Explicável refere-se ao processo de fornecer justificativas claras e compreensíveis por humanos para a saída ou 'pontuação' gerada por um modelo preditivo. Em vez de simplesmente retornar uma probabilidade (por exemplo, 85% de probabilidade de inadimplência), um sistema explicável detalha por que essa pontuação foi atribuída, destacando as características de entrada mais influentes.
Em indústrias regulamentadas, como finanças, saúde e seguros, modelos de 'caixa preta' são inaceitáveis. A Pontuação Explicável garante a responsabilidade e constrói a confiança do usuário. As empresas precisam saber não apenas o que o modelo prevê, mas por que ele prevê isso, o que é fundamental para auditoria, depuração e obtenção da aceitação das partes interessadas.
As explicações são tipicamente geradas usando técnicas post-hoc aplicadas a um modelo treinado. Essas técnicas sondam o comportamento do modelo localmente (para uma única previsão) ou globalmente (para o modelo como um todo). Métodos comuns incluem SHAP (SHapley Additive exPlanations) e LIME (Local Interpretable Model-agnostic Explanations), que quantificam a contribuição de cada variável de entrada para a pontuação final.
Gerar explicações fiéis é complexo. Frequentemente, há uma troca entre a fidelidade da explicação (o quão precisamente ela reflete a caixa preta) e sua simplicidade (o quão facilmente um usuário de negócios pode entendê-la). Além disso, alguns modelos altamente complexos são inerentemente difíceis de explicar perfeitamente.
Interpretabilidade do Modelo, Importância de Características, Explicações Contrafactuais, Justiça Algorítmica
