Empfindlichkeitskarte eines neuralen Netzes
Genauso wie Menschen kann es auch neuronalen Netzen passieren, dass sie schummeln oder versagen. Wenn man zum Beispiel ein Netzwerk auf Tierbildern trainiert und alle "Wolfsbilder" Schnee im Hintergrund zeigen, dann wird der Schnee zu einem Merkmal des "Wolfs". Daher verwendet das Netzwerk das Schnee-Merkmal als Abkürzung und hat möglicherweise nichts über das Aussehen eines Wolfes gelernt. Somit kann es sein, dass ein Hirsch in einer Schneelandschaft als Wolf fehlklassifiziert wird.
Um eine Fehlklassifizierung besser zu verstehen und zu überprüfen, ob ein Klassifizierungsnetz die gewünschten Merkmale erlernt hat, ist die folgende Analyse von Interesse.
Klassifizieren Sie ein beliebiges Bild und notieren Sie sich die Klassifizierungswahrscheinlichkeit. Decken Sie dann Teile des Bildes ab und notieren Sie, ob die Klassifizierungswahrscheinlichkeit nach oben oder unten geht. Wenn die Wahrscheinlichkeit sinkt, enthält der abgedeckte Bereich Merkmale, die die Klassifizierung unterstützen. Wenn die Wahrscheinlichkeit steigt, enthält der abgedeckte Bereich Merkmale, die die Klassifizierung behindern.
Laden Sie ein neuronales Netzwerk zur Bilderkennung.
Definieren Sie eine Funktion, die einen Teil eines Bildes in einer neutralen Farbe aufhellt bzw. abdeckt. Das zweite Argument gibt die Koordinaten der Aufhellung an, und das dritte Argument bestimmt die Größe der Abdeckung als Bruchteil der Bildgröße.
Nun kann eine weitere Funktion definiert werden, die systematisch Teile des Bildes abdeckt, um den Einfluss auf die Klassifikationswahrscheinlichkeit des spezifizierten neuronalen Netzes zu zeigen. Die resultierende Empfindlichkeitskarte wird als Helligkeit im Ausgabebild angezeigt.
Generieren Sie die Empfindlichkeitskarte eines Pferdes, das als Morgan eingestuft ist, mit einer Wahrscheinlichkeit von 74 %.
Erstellen Sie eine skalenunabhängige Empfindlichkeitskarte, indem Sie über verschiedene Abdeckungsgrößen mitteln.
Eine Wolfsklassifizierung mit hoher Wahrscheinlichkeit und einer fokussierten Empfindlichkeitskarte.
Skalenunabhängige Empfindlichkeitskarte des Wolfes.
Hier ist eine Fehlklassifizierung eines Porzellanwolfs als Seifenschale aufgrund des Untergrunds, auf dem die Figur steht.
Ein anderes Netzwerk erzeugt eine weitere Fehlklassifizierung, indem es sich auf den Rücken der Figur konzentriert, der wie der Rücken eines Dinosauriers aussieht.
