Carte de sensibilité du réseau neuronal
Tout comme les humains, les réseaux neuronaux ont tendance à tricher ou à échouer. Par exemple, si l'on entraîne un réseau sur des images d'animaux et si toutes les images de "loups" montrent de la neige en arrière-plan, alors la neige devient un élément "loup". Par conséquent, le réseau utilise la fonction de neige comme un raccourci et n'a peut-être rien appris sur l'apparence d'un loup. Par conséquent, un cerf dans un environnement enneigé peut être classé à tort comme un loup.
Afin de mieux comprendre toute erreur de classification et de vérifier si un réseau de classification a appris les caractéristiques souhaitées, l'analyse suivante est intéressante.
Classez une image arbitraire et indiquez la probabilité de classification. Ensuite, recouvrez des parties de l'image et indiquez si la probabilité de classification augmente ou diminue. Si la probabilité diminue, la zone recouverte contient des caractéristiques qui soutiennent la classification. Si la probabilité augmente, la zone recouverte contient des caractéristiques qui inhibent la classification.
Téléchargez un réseau neuronal d'identification d'images.
Définissez une fonction qui décolore une partie d'une image pour lui donner une couleur neutre. Le deuxième argument spécifie l'emplacement de la décoloration sous forme de coordonnées à l'échelle, et le troisième argument détermine la taille de la couverture comme une fraction de la taille de l'image.
On peut maintenant définir une autre fonction qui recouvre systématiquement des parties de l'image pour montrer l'effet sur la probabilité de classification du réseau neuronal spécifié. La carte de sensibilité résultante est affichée en tant que luminosité dans l'image de sortie.
Générez la carte de sensibilité d'un cheval classé dans la catégorie Morgan avec une probabilité de 74 %.
Créez une carte de sensibilité indépendante de l'échelle en faisant la moyenne de différentes tailles de couverture.
Une classification de loup avec une probabilité élevée et une carte de sensibilité focalisée.
Carte de sensibilité du loup indépendante de l'échelle.
Voici une classification erronée d'un loup en porcelaine classé dans la catégorie des porte-savons à cause de la forme de la silhouette sur le support.
Un réseau différent produit une autre classification erronée en se concentrant sur le dos de la silhouette qui ressemble au dos d'un dinosaure.
