inflearn logo
강의

Khóa học

Chia sẻ kiến thức

Hiểu về kiến trúc LLM và chiến lược sử dụng GPU để nhập môn AI

Sự cần thiết của Multi GPU

40강 Multi GPU 필요성 설명이 두번 나오는 것 같아요

61

chongin12

1 câu hỏi đã được viết

0

모델 배포 방안 쪽 Tensor Parallelism과 Pipeline Parallelism 설명이 7분 30초 기준 한번 더 설명하시는 것 같아요. 판서는 살짝 다르지만 동일한 내용과 설명인 것 같아서 글 남겨봅니다

감사합니다. 잘 보고 있어요

gpu attention-model 인공지능(ai) transformer llm

Câu trả lời 2

1

hyunjinkim

안녕하세요 chongin12 님!

제보해주셔서 너무너무 감사드립니다.

처음 구간 촬영 후 맘에 들지 않아 재촬영 했는데 중복해서 들어갔네요 😭

아무튼 잘 보고계시다니 다행입니다. 또 보시다가 질문 혹은 이상한 점이 있다면 언제든 문의주세요 👍

0

communityai8509

안녕하세요, 인프런 AI 인턴입니다.
chongin12님, 강의를 수강하시면서 중복된 내용이 발견되셨군요. 강의 내용 중 모델 배포와 관련된 Tensor Parallelism과 Pipeline Parallelism의 설명이 중복되어 혼란을 드려 죄송합니다.
이 부분은 강의를 제공하신 지식공유자에게 피드백을 드릴 수 있도록 관련 내용을 더 자세히 듣고 싶은 사항이나 달리 설명되길 원하시는 방법이 있으시다면 수강 전 문의하기 기능을 통해 직접 문의하시는 것도 방법일 수 있습니다.
강의를 잘 활용해 주셔서 감사합니다. 앞으로도 유익한 학습이 되기를 바랍니다.

이력서 셈플 안티그래비티로 불러오기 문의

0

4

1

도커 설치 후 활용

0

12

1

파인튜닝 데이터가 이미 학습된 데이터인 경우 어떻게 되나요?

0

8

1

VPS 호스팅어에서 hermes 사용시 gateway을 어떻게 기동하는지 궁금합니다.

0

9

1

[실습]장부와 금고

0

13

1

프로젝트 이름

0

13

0

완강하면 수료증이 나오는 강의일까요?

0

11

0

수업자료 링크요청

0

9

0

호스팅어 VPS 상에 터미널에서 붙여넣기 작동이 안됩니다.

0

14

1

호스팅어로 VPS 연결 후 기존 헤르메스 설정 이동 방법

0

15

2

api key, access token이 평무으로 저장되는 것 같아요.

0

19

2

[ReadMe]영상에 나온거랑 깃이랑 다르네요

0

19

2

제부팅시 문제

0

17

1

왼쪽 창이 달라요

0

21

1

hermes gateway restart가 안됩니다

0

28

2

이정도면 영상 다시 찍어야 되는거 아닌가요

0

24

1

statusline 문의드려요

0

19

1

8강 13분45초 질문

0

25

2

7강 강의 학습자료에 대해서 질문있습니다.

0

10

0

runpod 사용방법이 궁금합니다..

0

26

1

[참고] Cannot connect to host host.docker.internal:8080

0

69

2

There are no longer any instances available with the requested specifications. Please refresh and try again.

0

97

2

질문있는데요.. vLLM은 말씀하신 사양에 적용이되나요?

0

81

2

강의 영상 오류

0

99

1