gpu-add.cu 부분에서 커널 lanch 이후 cudaDeviceSynchronize() 부분 질문이요

Question

- 출장이 잦아서, 답변에 시간이 좀 걸릴 수도 있습니다. 양해 바랍니다. - 학습 관련 질문을 남겨주세요. 상세히 작성하면 더 좋아요! - 먼저 유사한 질문이 있었는지 검색해보세요. - 서로 예의를 지키며 존중하는 문화를 만들어가요. - 잠깐! 인프런 서비스 운영 관련 문의는 1:1 문의하기를 이용해주세요. 안녕하세요. 선생님 좋은 강의 잘 듣고 있습니다. 강의 부분에 질문이 하나 있어 이렇게 남깁니다. kernel 을 launch한 이후에 cudaDeviceSynchronize() 를 call 해주는 이유가 kernel의 작업 완료를 보장하기 위함이라는 사실은 인지하고 있습니다. 그런데, 그 아래 부분에서 cudaMemcpy를 해주기 때문에 저 부분이 생략해도 되지 않나 싶어서 질문을 남깁니다. memcpy가 저번 강의 때, kernel 작업 완료 후에 이뤄진다고 말씀하셨던 부분이 있어서, cudaDeviceSynchronize() 을 이번 예제에서 빼도 상관 없지 않을까해서 질문드립니다. 좋은 강의 감사합니다.

onemoresipofcoffee · Answer

안녕하세요. 우선, 해당 강의를 수강해 주셔서 감사합니다. ~ 말씀하신 대로, kernel launch - cudaMemcpy() 사이에는 사실 cudaDeviceSynchronize() 가 없어도 문제 없이 작동합니다. 다만, single thread 에서만 적용되는 상황이라서, 혹시 multiple thread 로 kernel 과 cudaMemcpy 가 서로 다른 thread 에서 돌거나 하면, cudaDeviceSyncronize 를 해 주어야 하는 경우도 발생할 수 있습니다. (참고하세요) cudaDeviceSynchronize 를 쓴 부분은, 예제 코드들이 조금조금 업데이트 해 가는 방식으로 작성되어서, 예전 코드에서 그대로 들어가는 경우도 있고, 일종의 습관처럼 쓰는 경우도 있습니다. 참고하셔서, 일부는 생략하셔도 문제가 없을 겁니다. 참고하세요 ~ 🍀