CNN 분석 관련

Question

안녕하세요. 항상 질 높은 강의 올려주셔서 감사합니다. 항상CNN을 다루면서 마주쳤던 문제는 모델이 만든 결과물을 어떻게 해석하고 성능을 향상시킬까에 대해 시간 투자를 많이 하는데 이러한 평가, 해석에 관한 부분은 advanced 과정에서 다루실 예정인지 궁금합니다. activation map 확인해서 필터가 어떤 부분을 학습하고 있고 gradcam같은 방법을 이용해서 모델이 어느 부분을 중점적으로 보고 있는지 등 이러한 해석에 관한 부분이 있다면 더더욱 좋은 강의가 될 것 같습니다. 강의를 전부 수강하진 못해서, 개요를 보고 생각난건데.. 혹시 이미 강의 포함되어 있다면 죄송합니다. :)

권 철민 · Answer

안녕하십니까, 아,,, 해당 부분은 강의에 없습니다. 원래 계획엔 있었으나 만들지 않은 이유는 1. CNN에 대한 상세 설명과 모델 성능을 향상시키는 다양한 요소들을 충분히 강의에서 설명드리고 있기 때문에 GradCam으로 activation까지 보여드릴 필요가 없다고 생각했습니다. 2. Gradcam을 적용해도 image의 얼굴 부분이 중요하여 잘 Activation되는 일반적인 현상만 보여드릴 수 있기 때문에 약간 사족(?) 될 수 있을 거 같아서 만들지 않았습니다. 3. 일반적으로 나쁜 모델, 좋은 모델이 있다면 Gradcam을 통해서 어느정도 대비되는 모습을 보여 드릴 수 있는데, 강의 구성상 그렇게 만들기 어려운 부분도 있어서 만들지 않았습니다. 본 강의를 중간 정도만 들으셔도 인터넷에서 Gradcam으로 Activation map을 시각화 하는것은 쉽게 찾아서 적용하실 수 있을 것이라 생각했습니다. 만일 지속적인 요청이 있다면 추가를 고려해 보겠습니다. 감사합니다.