On-chip vs Off-chip

안녕하세요 :)

제 생각을 적습니다. 상세 질문의 답은 스킵하겠습니다.
디테일한 설명은 공부를 통해서 해소 부탁드릴께요.

Off-Chip memory와 가속기 사이에 On-chip memory가 있는 이유?

보통 memory size 는 Off-chip > On-chip 입니다.

R/W 속도는 Off-chip < On-chip 이죠.

예를 들어 A~Z 까지 Data 가 off chip 에 있었습니다.

Off chip 은 A~Z 까지 저장 가능하다,

On chip 은 5개의 알파벳만 저장 가능하다.

만약 연산시 A~E 의 Data 사용이 빈번하다고 해볼께요.

그러면 A~E 를 On chip 에 올려놓고 사용하면 되겠죠.

제가 알기로는, 병목 현상을 방지하기 위해서 빠른 device는 빠른 device 들끼리 묶어서 속도가 빠른 BUS를 사용하고, 느린 device는 느린 device들끼리 묶어서 속도가 느린 BUS를 사용한다고 알고 있는데, 만약 이 말이 맞다면, 빠른 device들과 느린 device들의 연결은 어떻게 해주는지 궁금합니다.

위의 방식처럼 해결합니다. 최대한 느린 Device 의 로딩을 최소화 시켜야합니다.

Off-chip memory는 chip 외부에 있기 때문에 메모리 내 데이터를 read write 할 때 power 소모가 on-chip 대비 크다라고 말씀하셨는데, 왜인지 잘 모르겠습니다. Chip 내에서만 power 소모가 일어나는 건가요? power 소모의 주체는 누구인지 궁금합니다.

직관적으로 생각해보면 (그외 더 많은 factor 가 있겠지만)

Off-chip 은 Chip 바깥에 있습니다. On-chip 은 칩 내부에 있습니다.

전기신호를 통해 Data 를 주고 받습니다.

Wire length 가 길 수록 높은 전류를 필요로 하죠. nano 공정에서 On-chip 의 wire length 와 Off-chip 의 wire length 를 생각해보시면 됩니다.

Power 소모의 주체는 Data 전송을 위한 Power 드라이빙 (amplifier) 소자입니다.

즐공하세요 :)