Trompez les réseaux neuronaux
Les illusions d'optique peuvent tromper les humains. De même, on peut construire des illusions pour les réseaux de classification d'images.
Téléchargez un réseau de classification d'images pré-entraîné à partir de Wolfram Neural Net Repository.
Choisissez deux images que le réseau peut classer avec certitude.
Pour reclasser le tigre en cafard, un nouveau réseau neuronal a été créé en préparant un ConstantArrayLayer qui contient l'image du tigre.
On peut ré-entraîner seulement la couche ConstantArrayLayer dans ce nouveau réseau en utilisant l'option LearningRateMultipliers et ainsi forcer le réseau à toujours classer l'image en tant que cafard.
Après 256 séances d'entraînement, l'image résultante est extraite de la couche ConstantArrayLayer.
Pour les humains, l'image semble être restée la même, mais le réseau pense différemment. Il classe maintenant le tigre comme un cafard avec une probabilité de 83 %.
Le réseau a été berné par de petits changements à haute fréquence spatiale.
Remarquez que cette illusion d'optique est spécifique au réseau. Le réseau neuronal dans ImageIdentify n'est pas dupe.
De plus, un flou élimine rapidement cette illusion d'optique.
