모델 변환 성능 질문드립니다.
안녕하세요 선생님 강의 잘 듣고 있는 학생입니다.
요즘 저의 custom dataset으로 여러 object detection 모델을 돌려보고 있는데
시작은 보통 pytorch의 pt모델로 학습을 시작을 하는데
제가 임베디드 시스템에서 돌려보고 싶어서 추론을 하고 싶어
PyTorch -> onnx -> tensorflow -> tflite 변환 구조를 따라가 최종 모델을 tflite로 구성하려고 하는데
양자화를 하지 않았는데도 tflite(float32) 성능이 아예 떨어져 pytorch에서는 잘 detect하던 모델이 아예 검출을 하지 못하는 상황이 발생하는데 혹시 이러한 상황이 아무래도 모델을 tflite로 축소하다 보니 자연스러운 상황인건지 이러한 상황을 극복하려면 데이터를 더 수집해서 성능을 높여야하는지 방법에 대해서도 좀 여쭙고 싶습니다.
감사합니다~
Answer 1
0
안녕하십니까,
(이미 잘 알고 계시겠지만) 생각보다 tflite 성능이 잘 나오지 않습니다. 특히나 작은 오브젝트를 Detect하는 경우는 더욱 더 성능이 떨어집니다.
작업하신 모델의 성능 저하 원인이 tflite 자체 성능의 문제인지, 아님 ONNX -> tflite 변환의 문제인지는 테스트를 해보셔야 할 것 같습니다.
제 생각엔 pytorch 모델을 일단 사용하지 마시고, tensorflow 기반인 EfficientDet (또는 EfficientDet Lite)모델로 학습을 하신 뒤 이를 tflite 로 변환하여 성능을 먼저 보시면 어떨까 싶습니다. 이게 성능이 안난다면 Custom 학습된 모델 자체가 성능이 더 높아야 할 것 같습니다.
만약에 해당 모델이 성능이 어느정도 난다면, pytorch model -> ONNX -> tensorflow -> tflite 과정에서 어느정도 모델이 잘못 변환될 가능성이 있을 것 같습니다.
감사합니다.
강의 환경설정 질문
0
35
2
Custom Dataset에서의 polygon 정보 관련
0
80
3
cvat.ai 보안 수준이 궁금합니다
0
77
2
캐클 nucleus 챌린지 runpod 실습 코드 에러 질문드립니다.
0
93
3
추론 결과의 Precision(또는 mAP) 평가 방법
0
80
2
mmdetection mask rcnn inferenct 실습 시 runpod 템플릿 관해서 질문드립니다.
0
56
2
runpod에서 google drive 연결 시 오류 발생
0
105
2
로드맵 선택
0
64
1
mmcv
0
55
2
Anchor box의 Positive 처리 위치
0
59
2
해당 강의 runpod 적용 후 에러 제보드립니다
0
82
2
run pod credit 관련 제보
0
92
2
mmdetection 2.x과 3.x 호환 관련 표기
0
74
2
mm_faster_rcnn_train_kitti.ipynb 실행 오류
0
93
3
질문 드립니다.
0
74
3
mm_faster_rcnn_train_coco_bccd 실행 오류 질문드립니다.
0
75
1
강사님께 수정을 제안드리고 싶은 것이 있습니다.
0
91
1
google automl efficientdet 다운로드 및 설치 오류
0
71
1
이상 탐지에 사용할 비전 기술 조언 부탁드립니다.
0
100
2
OpenCV 관련 질문드립니다.
0
68
2
mmcv 설치관련해서 문의드려요
0
324
3
강의 구성 관련해서 질문이 있습니다
1
130
2
NMS 로직 문의 드려요
0
108
2
선생님, yolov2.weights파일 구할 수 있을까요?
0
225
2