Mapa de sensibilidade de uma rede neural
Assim como os humanos, as redes neurais tendem a trapacear ou falhar. Por exemplo, se alguém treina uma rede com imagens de animais e se todas as imagens de "wolf" exibem neve no fundo, a neve se torna um elemento característico do "wolf". Portanto, a rede usa a neve como atalho e pode não ter aprendido nada sobre a aparência de um lobo (wolf). Como consequência, um veado em condições de neve pode ser classificado erroneamente como lobo.
Para entender melhor qualquer classificação incorreta e verificar se uma rede de classificação aprendeu os características desejadas, a análise a seguir é interessante.
Classifique uma imagem arbitrária e observe a probabilidade de classificação. Em seguida, cubra partes da imagem e observe se a probabilidade de classificação aumenta ou diminui. Se a probabilidade diminuir, a área coberta contém características que suportam a classificação. Se a probabilidade aumentar, a área coberta contém características que dificultam a classificação.
Carregue uma rede neural de identificação de imagem.
Defina uma função que ilumine ou cubra parte de uma imagem com uma cor neutra. O segundo argumento especifica a localização do brilho em coordenadas em escala, e o terceiro argumento determina o tamanho da cobertura como uma fração do tamanho da imagem.
Agora, outra função pode ser definida para cubrir sistematicamente partes da imagem para mostrar a influência na probabilidade de classificação da rede neural especificada. O mapa de sensibilidade resultante é exibido como brilho na imagem resultante.
Gere o mapa de sensibilidade de um cavalo classificado como Morgan com 74% de probabilidade.
Crie um mapa de sensibilidade independente de escala calculando a média entre diferentes tamanhos de cobertura.
Uma classificação de lobo com alta probabilidade e um mapa de sensibilidade focado.
Mapa de sensibilidade independente de escala do lobo.
Aqui está uma classificação incorreta de um lobo de porcelana como sendo uma saboneteira, devido à posição da figura.
Uma rede diferente produz outra classificação incorreta, concentrando-se na parte de fundo da figura, que se parecem com as costas de um dinossauro.
