Inflearn コミュニティ Q&A
投稿した質問数
모델 변환 성능 질문드립니다.
解決済みの質問
作成
·
79
0
안녕하세요 선생님 강의 잘 듣고 있는 학생입니다.
요즘 저의 custom dataset으로 여러 object detection 모델을 돌려보고 있는데
시작은 보통 pytorch의 pt모델로 학습을 시작을 하는데
제가 임베디드 시스템에서 돌려보고 싶어서 추론을 하고 싶어
PyTorch -> onnx -> tensorflow -> tflite 변환 구조를 따라가 최종 모델을 tflite로 구성하려고 하는데
양자화를 하지 않았는데도 tflite(float32) 성능이 아예 떨어져 pytorch에서는 잘 detect하던 모델이 아예 검출을 하지 못하는 상황이 발생하는데 혹시 이러한 상황이 아무래도 모델을 tflite로 축소하다 보니 자연스러운 상황인건지 이러한 상황을 극복하려면 데이터를 더 수집해서 성능을 높여야하는지 방법에 대해서도 좀 여쭙고 싶습니다.
감사합니다~
回答 1
0
안녕하십니까,
(이미 잘 알고 계시겠지만) 생각보다 tflite 성능이 잘 나오지 않습니다. 특히나 작은 오브젝트를 Detect하는 경우는 더욱 더 성능이 떨어집니다.
작업하신 모델의 성능 저하 원인이 tflite 자체 성능의 문제인지, 아님 ONNX -> tflite 변환의 문제인지는 테스트를 해보셔야 할 것 같습니다.
제 생각엔 pytorch 모델을 일단 사용하지 마시고, tensorflow 기반인 EfficientDet (또는 EfficientDet Lite)모델로 학습을 하신 뒤 이를 tflite 로 변환하여 성능을 먼저 보시면 어떨까 싶습니다. 이게 성능이 안난다면 Custom 학습된 모델 자체가 성능이 더 높아야 할 것 같습니다.
만약에 해당 모델이 성능이 어느정도 난다면, pytorch model -> ONNX -> tensorflow -> tflite 과정에서 어느정도 모델이 잘못 변환될 가능성이 있을 것 같습니다.
감사합니다.