Wolfram言語

ニューラルネットワークをだます

人は錯覚にだまされることがある.これと同様に,画像分類ネットワークに対する錯覚を構築することができる.

Wolfram Neural Net Repositoryから事前に訓練された画像分類ネットワークをロードする.

ネットワークが確実に分類できる2つの画像を選ぶ.

「トラをゴキブリにする」ために,トラの画像を含むConstantArrayLayerを前に置いて新しいニューラルネットを構築する.

オプションLearningRateMultipliersを使ってこの新しいネットワークのConstantArrayLayerだけを再訓練し,ネットワークが常にこの画像をゴキブリと分類するように強制する.

256回の訓練ラウンドの後,ConstantArrayLayerから結果の画像を抽出する.

人間にとっては画像は同じに見えるが,ネットワークは違うものと考える.ネットワークは83%の確率でトラをゴキブリと分類する.

このネットワークは,高い空間周波数における小さい変化によってだまされてきた.

この錯覚はネットワーク特有のものである.ImageIdentifyのニューラルネットワークはだまされない.

この錯覚はぼけによってすぐに除去される.

関連する例

de en es fr ko pt-br zh