신경망 감도 맵
인간과 마찬가지로 신경망도 가끔 속이거나 실패하는 경향이 있습니다. 예를 들어, 동물의 이미지에 네트워크를 훈련시켰을 때, 만약 모든 "늑대"의 이미지 배경이 눈이라면, "눈" 또한 "늑대"의 특징으로 간주합니다. 따라서 네트워크는 단축키로 눈의 특징을 사용하고, 늑대의 외모에 대해서는 아무것도 배우지 못할 수도 있습니다. 결과적으로 눈 속에 있는 사슴이 자칫 잘못 늑대로 분류 될수 있습니다.
분류 오류를 더 잘 이해하고 분류 네트워크가 원하는 특징을 배웠는지를 확인하기 위해 다음의 흥미로운 분석을 해봅니다.
어떤 이미지를 분류하고 분류 확률에 주목합니다. 다음 그림의 일부를 덮고 분류 확률이 오르거나 내려 가는지를 살펴봅니다. 확률이 떨어진 경우, 덮인 부분으로 분류되는 특징이 포함되어 있으며, 확률이 올라갈 경우 덮인 부분의 분류에 방해가 되는 것이 포함되어 있습니다.
이미지 식별의 신경망을 로드합니다.
이미지의 일부를 표백하고 중간 색을 만드는 함수를 정의합니다. 두 번째 전달인자는 스케일된 좌표로 표백할 위치를 지정하고 세 번째 전달인자는 덮는 크기를 이미지 크기와의 비율로 결정합니다.
다음은 지정된 신경망 분류 확률에 미치는 영향을 설명하기 위해 이미지의 일부를 체계적으로 덮는 다른 함수를 정의할 수 있습니다. 결과의 감도 맵이 출력 이미지의 밝기로 표시됩니다.
74%의 확률로 모건(Morgan) 종으로 분류된 말의 감도 맵을 생성합니다.
다양한 포장 크기를 평균하여 스케일에 의존하지 않는 민감도 맵을 작성합니다.
높은 확률과 민감도에 중점을 둔 늑대의 분류를 봅니다.
늑대의 스케일 독립적 감도 맵을 봅니다.
다음은 받침대로 인해 비누 접시로 잘못 분류된 도자기 늑대입니다.
다른 네트워크는 도자기 늑대 뒤에 공룡의 뒷모습처럼 보이는 것에 집중함으로써 또 다른 잘못된 분류를 만들어 냅니다.
