Um modelo que prevê inadimplência sem explicar o porquê é, ele mesmo, um risco. Em crédito, a decisão automatizada afeta a vida de uma pessoa real, precisa ser justificável para ela e auditável para o regulador. "O modelo disse" não é resposta.
As três perguntas que o comitê faz
- 📌 No geral, o que mais pesa? Quais features dominam as decisões do modelo na carteira inteira.
- 📌 E neste caso específico? Para este solicitante, o que empurrou a previsão para risco alto — e quanto cada fator contribuiu.
- 📌 A lógica faz sentido? O modelo está usando renda, atraso e uso de limite, ou aprendeu algum atalho indesejado que funciona no histórico e não se sustenta eticamente?
A terceira é a mais importante e a menos lembrada. Um modelo pode atingir AUC excelente explorando uma correlação que reflete um viés da base, não um mecanismo de risco. Sem explicabilidade, isso passa.
Como isso entra no projeto
O SHAP está ligado ao mesmo pipeline usado na modelagem, com uma ponte dedicada:
explicacao, matriz = explicar_com_shap(pipeline, X_teste, amostra=2000)
ranking = importancia_global(explicacao)
Aqui compensa aquela decisão da fase de preparação: todos os passos devolvem DataFrame com nomes de coluna. Sem isso, a explicação sairia como "feature 4 contribuiu +0,03" — inútil num comitê. Com isso, sai razao_divida, atrasos_90_mais_dias, uso_limite_rotativo.
A expectativa, e por que ela precisa ser testada
A árvore de três níveis já deu uma pista forte do que o SHAP deve confirmar: atrasos_90_mais_dias com importância 0,713, seguida de uso_limite_rotativo (0,153) e atrasos_60_89_dias (0,134). Se a explicação global do LightGBM apontar para um conjunto muito diferente disso, o achado é esse — e vira investigação, não nota de rodapé.
Status honesto: esta etapa está implementada no pipeline e é o próximo passo em execução do projeto. Quando os resultados saírem, atualizo este artigo com os números — e com a comparação entre o que a árvore sugeria e o que o modelo campeão de fato usa.
Por que isso transforma o entregável
Com explicabilidade, o modelo deixa de ser uma caixa que cospe um número e vira uma ferramenta que o time de crédito pode confiar, auditar e usar para justificar uma negativa. Sem ela, o melhor AUC do mundo não entra em produção numa instituição séria.
Parte 10 de 12 da série Aurora — um modelo de risco de crédito do zero ao deploy. O mapa completo da série reúne todas as partes e os números finais. Veja também a documentação técnica e o código no GitHub ↗.