Neuronale Netze täuschen
Optische Illusionen können Menschen täuschen. Ebenso kann man Illusionen für Bildklassifikationsnetze konstruieren.
Laden Sie ein vortrainiertes Bildklassifikationsnetz aus dem Wolfram Neural Net Repository.
Wählen Sie zwei Bilder, die das Netzwerk mit Sicherheit klassifizieren kann.
Um den Tiger in eine Kakerlake zu verwandeln, wurde ein neues neuronales Netz gebaut, dem eine Schicht ConstantArrayLayer vorangestellt wurde, die das Bild des Tigers enthält.
In diesem neuen Netzwerk braucht man mit der Option LearningRateMultipliers nur die Schicht ConstantArrayLayer neu trainieren und so das Netz zwingen, das Bild immer als Küchenschabe zu klassifizieren.
Nach 256 Trainingsrunden wird das resultierende Bild aus dem ConstantArrayLayer extrahiert.
Für den Menschen scheint das Bild gleich geblieben zu sein, aber das neuronale Netzk denkt anders. Es klassifiziert den Tiger nun mit einer Wahrscheinlichkeit von 83 % als Kakerlake.
Das Netzwerk wurde durch kleine Änderungen mit hoher Ortsfrequenz getäuscht.
Beachten Sie, dass diese optische Täuschung netzwerkspezifisch ist. Das neuronale Netzwerk in ImageIdentify lässt sich nicht täuschen.
Darüber hinaus eliminiert eine Unschärfe diese optische Täuschung schnell.
