딥러닝 컴퓨터 질문

Question

안녕하세요 현재 딥러닝 CNN완벽가이드 fundamental편 수강중이고 추 후 딥러닝 컴퓨터 비전 강의를 듣고 제 전공분야에 응용하는것을 목표로 공부중인 수학, 통계, 컴퓨터관련 전공이 아닌 대학원생입니다. 선생님께서 강의시에 코랩, 캐글, GCP를 대부분 이용하시는데 연구비를 이용하여 컴퓨터를 구입 할 수 있게된 기회가 생겨서 기존 컴퓨터에서 메인보드, CPU, GPU를 구매하려고 합니다 (다른 파트 및 램은 DDR4 8gb 4개 사용중인거 재사용 예정 입니다). 구입하려는 이유는 코랩에서 램용량 오버로 런타임 연결이 끊겨서 GCP에서 가상머신을 만들어야 하는데 GPU할당을 바로 못받아 컴퓨터를 구매 하려고 합니다. 예산은 400만원 정도인데 이 구입 관련된 질문을 드리고 싶습니다. 1. 인텔, AMD cpu 종류는 텐서플로우 또는 파이토치 사용에 영향을 미칠 수 있나요? cpu차이 때문에 혹시 코드가 구동이 안되면 컴퓨터 비전공자인 저는 어려움을 겪을것 같아 질문드립니다. 인텔이 역시 아직은 호환이 뛰어날까요 아니면 아무 차이가 없을까요? 2. 코랩에서 P100으로 연산할때 에폭을 30 줘도 5분 미만으로 학습이 끝나는 정도라면 3070 정도의 그래픽 카드도 그리 오랜 시간이 걸리지 않을까요? 그래픽카드 구매시에도 메모리가 중요 할까요? 예를들면 3060인데도 3070보다 메모리가 큰 그래픽 카드가 있던데 어떤 부분은 잘 고려하는게 중요 할 까요? 3. GCP 같은 경우에는 우분투 에서 쁘띠를 이용하여 활용하시는걸 컴퓨터 비전 강의에서 봤는데 만약 제가 컴퓨터를 구입하면 저는 제 컴퓨터에 윈도우를 깔고 아나콘다를 설치해서 가상환경 안에서 주피터노트북을 이용 할 생각인데 우분투랑 윈도우 차이 때문에 이런 활용 부분에서 문제가 생길 수도 있을까요? 비 전공자로 이런부분에서 문제가 생기면 해결하는게 많이 어렵지 않을까 걱정되어 질문 드립니다. 4. 최종적으로 CPU, GPU, 메인보드를 추천 해 주실 수 있을까요? 그리고 추가적으로 김철민 선생민께서 이런부분 관련해서 조언해주고 싶은 말 있으시면 부탁드립니다. 진심으로 감사합니다.

권 철민 · Answer

안녕하십니까, 음, 제가 H/W 전문가가 아니어서 어떤 GPU H/W를 추천 드려야 할지 잘 모르겠습니다. 잘은 모르지만 p100 정도의 성능을 가진 GPU 서버를 구축하려면 적어도 800~1000 만원대 비용이 소모되는 걸로 알고 있습니다. 1. 공식적으로는 AMD에서도 Tensorflow, Pytorch 모두 다 잘 동작합니다. 근데 대부분 GPU 서버들이 CPU는 인텔을 사용하는 것으로 알고 있습니다. 2. 3070 그래픽 카드를 사용해본적은 없는데, FLOPS 스펙으로 봤을 때는 P100보다 학습이 많이 느릴 것 같습니다. 적어도 3~4배 이상 학습 시간이 더 걸릴 것 같습니다. 메모리는 16G 이상 권장드립니다. 작으면 현재 실습 예제 수행시 오류가 날 수 있습니다. (BATCH SIZE를 더 줄이면 오류를 예방할 수는 있지만, 학습 시간이 더 걸립니다) 3. 딥러닝을 하려면 GPU와 연동할 수 있는 CUDA/CUDNN 라이브러리 설치가 필요한데, 이게 윈도우에서 까탈스럽습니다. 그리고 Tensorflow, pytorch-> cuda/cudnn-> GPU로 이어지는 호환버전 설치및 전반적인 Setup이 만만치 않습니다. 가급적이면 Linux VM 활용을 권장드립니다.(Linux에서 Cuda/cudnn 설치도 만만치 않지만 윈도우 보다는 편리합니다) 개인적인 생각으로는 연구비가 할당되었으니, 괜찮은 Workstation 200만원 정도로 장만해서 일반적인 용도로 사용하시고, 나머지 200만원으로 Google Cloud나 AWS에서 Cloud로 GPU 서버를 사용하시는건 어떨까 싶습니다. 물론 연구비가 한번에 금액이 떨어지는 거라, 이런 용도로 가능할지는 모르겠지만, 전문적인 딥러닝 연구를 위해서라면 400만원 정도의 GPU 서버로는 활용에 어려움이 있습니다.