코드 질문

안녕하세요 :)

1.

코사인 유사도는 두 벡터의 관계이기 때문에 벡터가 벡터 하나, 하나를 계산을 해야합니다. 그런데 F.cosine_similarity 함수가 벡터 하나를 기준으로 여러 벡터의 관계를 한 번에 계산해 주는 기능이 있습니다.

코드에서 알 수 있듯이 pos_embedding[0, i:i+1]의 크기는 [1, 128]이고 pos_embedding[0, 1:]의 크기는 [64, 128]입니다. 즉, 128차원 벡터 하나를 기준으로 64개의 벡터와의 관계가 이 함수를 통해 한 번에 계산할 수 있습니다. 최종적으로 한 번 계산 시 64개의 결과값을 얻을 수 있고 이를 8x8로 시각화 할 수 있습니다.

2.

데이터 전처리에서 정규화를 해줬기 때문에 시각화 할 때는 원래 이미지 값으로 되돌리기 위한 정규화를 역산을 한 것입니다!