Engañando redes neuronales
Las ilusiones ópticas pueden engañar a humanos. De forma similar, uno puede construir ilusiones para redes de clasificación de imágenes.
Cargue una red de clasificación de imágenes pre-entrenada desde el Repositorio de redes neuronales Wolfram.
Seleccione dos imágenes que la red pueda clasificar con certeza.
Para "cucaracha el tigre" una nueva red neuronal fue construida pretendiendo un ConstantArrayLayer que contiene la imagen del tigre.
Uno puede re-entrenar solamente ConstantArrayLayer en esta nueva red usando la opción LearningRateMultipliers y entonces forzar la red a que siempre clasifique la imagen como una cucaracha.
Después de 256 rondas de entrenamiento, la imagen resultante se extrae del ConstantArrayLayer.
Para los humanos, la imagen parece haber permanecido igual, pero la red piensa distinto. Ahora clasifica al tigre como una cucaracha con una probabilidad del 83%.
La red ha sido engañada por pequeños cambios con alta frecuencia espacial.
Note que esta ilusión óptica es específica a una red. La red neuronal en ImageIdentify no es engañada.
Además, un desenfoque rápidamente elimina la ilusión óptica.
