Enganando redes neurais
Ilusões de ótica podem enganar os seres humanos. Da mesma forma, pode-se construir ilusões para redes de classificação de imagens.
Carregue uma rede de classificação de imagens pré-treinada no Wolfram Neural Net Repository.
Escolha duas imagens que a rede possa classificar com certeza.
Para reclassificar o tigre como sendo uma barata uma nova rede neural foi construída, acrescentando uma ConstantArrayLayer que contém a imagem do tigre.
Pode-se treinar apenas a ConstantArrayLayer nessa nova rede usando a opção LearningRateMultipliers, forçando a rede a sempre classificar a imagem como uma barata.
Após 256 rodadas de treinamento, a imagem resultante é extraída do ConstantArrayLayer.
Para os humanos, a imagem parece ter permanecido a mesma, mas a rede pensa de maneira diferente. Agora, ele classifica o tigre como sendo uma barata com 83% de probabilidade.
A rede foi enganada por pequenas mudanças com alta frequência espacial.
Observe que essa ilusão de ótica é específica da rede. A rede neural no ImageIdentify não é enganada.
Além disso, um borrão elimina rapidamente essa ilusão de ótica.
