Redes neurais profundas (DNN) são algoritmos de caixa preta. Eles são treinados usando uma técnica de retro propagação descendente de gradiente que treina pesos em cada camada com o único objetivo de minimizar o erro de treinamento. Portanto, os pesos resultantes não podem ser explicados diretamente. Usando a análise topológica de dados (TDA), podemos obter uma visão de como a rede neural está pensando, especificamente analisando os valores de ativação das imagens de validação à medida que passam por cada camada. A TDA fornece uma estrutura geral para analisar esses dados de maneira insensível à métrica específica escolhida e fornece redução de dimensionalidade e robustez ao ruído.