mmdetection을 이용한 faster rcnn 관련 문의(np.long)

Question

안녕하세요 mmdetection을 통하여 Faster RCNN 강의 중 문의사항이 있어 문의드립니다 ◆ 문의사항 np.long 필요여부 : Class KittyTinyDataset(customDataset) 설정 시 data_anno에서 labels의 dtype을 np.long해야만 하는 이유가 있을까요?(np.int32시 error 남) data_anno = { "bboxes" : np.array(gt_bboxes, dtype=np.float32).reshape(-1, 4), "labels" : np.array(gt_labels, dtype=np.long), "bboxes_ignore" : np.array(gt_bboxes_ignore, dtype=np.float32).reshape(-1, 4), "labels_ignore" : np.array(gt_labels_ignore, dtype=np.long) }

권 철민 · Answer

안녕하십니까, Deep learning Tensor 연산시 integer는 quantization을 적용할 때 외에는 아예 사용되지 않습니다. 기본적으로 부동 소수점 연산을 이용합니다. 다만 메모리를 고려해서 float32를 주로 적용합니다. 하지만 label값은 값 정의상 integer로 표현 될 수 있지만, loss함수 적용 시 형변환등의 이슈로 사용되지 않으며, 보통 tensorflow는 label값에 float을 적용하는데, pytorch는 long을 적용하는 경우도 있습니다.