ニューラルネットワークをだます
人は錯覚にだまされることがある.これと同様に,画像分類ネットワークに対する錯覚を構築することができる.
Wolfram Neural Net Repositoryから事前に訓練された画像分類ネットワークをロードする.
ネットワークが確実に分類できる2つの画像を選ぶ.
「トラをゴキブリにする」ために,トラの画像を含むConstantArrayLayerを前に置いて新しいニューラルネットを構築する.
オプションLearningRateMultipliersを使ってこの新しいネットワークのConstantArrayLayerだけを再訓練し,ネットワークが常にこの画像をゴキブリと分類するように強制する.
256回の訓練ラウンドの後,ConstantArrayLayerから結果の画像を抽出する.
人間にとっては画像は同じに見えるが,ネットワークは違うものと考える.ネットワークは83%の確率でトラをゴキブリと分類する.
このネットワークは,高い空間周波数における小さい変化によってだまされてきた.
この錯覚はネットワーク特有のものである.ImageIdentifyのニューラルネットワークはだまされない.
この錯覚はぼけによってすぐに除去される.