질문드립니다.

Question

음.. 결국에는 현재로썬 Opencv DNN을 사용하여 GPU로 inference 하는 방법 밖에 없는 건가요?

Opencv DNN을 쓰기 위해선 저장한 모델을 불러와야 하며 해당 opencv 버전에 맞는 환경 설정 파일이 있어야 가능한건가요?

예전에, segmentation을 공부하면서 inference하는데 GPU로 돌리지 않고 CPU로 하다보니 CPU usage를 95% 이상 썼던 기억이 납니다.. 이를 GPU로 inference하려다 포기했었는데,,, 현재로썬 불가능한건가요..?

Answer

안녕하십니까,

현재로서는 OpenCV DNN은 inference만 가능합니다.

다만 inference는 CPU또는 GPU도 가능합니다만, 절대적으로 CPU Inferenece가 대부분입니다.

일단 opencv DNN에서 GPU를 사용할 수 있게 셋업하는 게 어렵습니다. 아래에 대략적인 셋업 절차가 있습니다. 절차대로 해도 실패하기 쉽습니다. 한번 살펴보시지요. GPU로 Inference하면 Opencv DNN은 10배 이상의 속도 향상이 가능합니다.

https://learnopencv.com/how-to-use-opencv-dnn-module-with-nvidia-gpu-on-windows/

https://learnopencv.com/opencv-dnn-with-gpu-support/