• 카테고리

    질문 & 답변

  • 세부 분야

    반도체

  • 해결 여부

    미해결

NPU architecture 관련 질문

24.01.19 12:49 작성 24.01.19 12:50 수정 조회수 208

1

안녕하세요

좋은 강의 감사히 잘 듣고 있습니다.

하나 궁금한게 DNN에는 많은 알고리즘들이 있는데 NPU 설계시 어떻게 architecture를 보통 잡나요?

MAC을 무수히 깔아두고 SW가 알아서 여러 알고리즘을 돌릴수 있게 해줄수도 있겠지만

분명 특정 알고리즘에 특화해서 HW architecture 부터 잡을 수도 있지 않을까 생각이 됩니다.

해당 chip이 쓰일 application에 맞게 몇개 알고리즘에 좀더 특화해서 설계를 하나요?

적다 보니 전자는 GPU, 후자는 NPU 일수도 있겠다는 생각이 듭니다.

 

모델 경량화 기법들을 강의에서 소개해주셨는데 이런 부분들을 위해 HW에서 지원해야 하는 점이 있는지도 궁금합니다.

course-thumbnail

설계독학맛비's 실전 AI HW 설계를 위한 바이블, CNN 연산 완전정복 (Verilog HDL + FPGA 를 이용한 가속기 실습)

답변 1

답변을 작성해보세요.

0

설계독학맛비님의 프로필

설계독학맛비

지식공유자

2024.01.19

안녕하세요 🙂

알고계신대로 NPU architecture 는 정말 중요하죠.

General 하게 사용해야하는 경우와 특정 application 만 사용하는 NPU 를 다른 architecture 로 가져가는게 맞습니다. 가성비를 항상 따져야하기 때문이에요.

강의에서 설명드린 경량화 기법이, HW 설계시 Logic 을 줄이는 것, 가성비와 연관이 있습니다.

Quantization 의 precision 을 할수록 logic 은 적게 사용하지만 정확도는 떨어지듯이,

모든 HW 설계에 정답은 없습니다. 원하는 appication에 따른 최적의 Architecture 를 적용하는거죠.

즐공하세요 🙂

이 글과 비슷한 Q&A