AIマスターのためのLLMアーキテクチャの理解とGPU活用戦略
TransformerベースのLLMアーキテクチャとGPU活用戦略を理解し、vLLMを活用した実際のサービングプロセスまで実践的に学びます。 AIシステムのパイプライン構築からモニタリング、マルチGPUの活用まで、実務の流れ全体を扱い、 複雑な数式を使わず、図解と実習を中心に直感的に理解できるよう構成された講義です。
受講生 535名
難易度 初級
受講期間 無制限
- 未解決
터보퀀트(예정)
안녕하세요.터보퀀트(예정) 때문에 수강완료가 안되고 있는데 이걸 해결할 방법이 없나요 ?수강 100
gpuattention-model인공지능(ai)transformerllmyujinseok3246
・
22日前
0
51
1
- 未解決
ssh 연결
안녕하세요! 강의 잘듣고있습니다! 다름이 아니라, 클라우드 gpu를 로컬에서 사용할때 ssh 방식말고는 사용할 수 없을까요?? 예를 들면 제 pc에서 클라우드 gpu를 연결한 것처럼 세팅해서 r스튜디오 같은 분석 환경
gpuattention-model인공지능(ai)transformerllmdotodiary6313
・
2ヶ月前
0
76
1
- 解決
54강 양자화의 끝판왕, 터보퀀트 (예정) 강의 업로드
안녕하세요. 해당 강의를 잘 수강하며 많은 도움을 받고 있습니다.하지만 현재 마지막 54강 양자화의 끝판왕, 터보퀀트 (예정) 부분으로 인해 진도율 100%을
gpuattention-model인공지능(ai)transformerllmjaejunglee7625
・
3ヶ月前
0
88
1
- 未解決
블로그에 학습 내용 올려도 되나요?
선생님 강의 내용 공부한 것을 개인 블로그같은 곳에 요약해서 올려도 되나요? 아무래도 선생님 noetbook 코드의 일부가 포함이 되어야할것 같은데..가능한지 여쭤봅니다
gpuattention-model인공지능(ai)transformerllmmissingha9322
・
3ヶ月前
0
93
1
- 未解決
runpod 사용방법이 궁금합니다..
강의듣고 할려고보는데.. pods이라던지 청구구분이 어떻게 사용해야할지 모르겠습니다.<img src="https://cdn.inflearn.com/public/files/posts/c540a7c3-7761
gpuattention-model인공지능(ai)transformerllmlasttokens55853591
・
4ヶ月前
0
120
1
- 解決
[참고] Cannot connect to host host.docker.internal:8080
<img src="https://cdn.inflearn.com/public/files/posts/4b701dd0-9a1a-4b51-9716-83e8006fa729/3b91079b-5254-4f7d-bff3-2fd25af79217.png" media-type="img"
gpuattention-model인공지능(ai)transformerllmlogt
・
6ヶ月前
0
195
2
- 未解決
40강 Multi GPU 필요성 설명이 두번 나오는 것 같아요
모델 배포 방안 쪽 Tensor Parallelism과 Pipeline Parallelism 설명이 7분 30초 기준 한번 더 설명하시는 것 같아요. 판서는 살짝 다르지만 동일한 내용과 설명인 것 같아서 글 남겨봅니다<
gpuattention-model인공지능(ai)transformerllmchongin12
・
6ヶ月前
0
109
2
- 解決
There are no longer any instances available with the requested specifications. Please refresh and try again.
<img src="https://cdn.inflearn.com/public/files/posts/c18e7efd-4fd9-4ba0-8b50-5bedd362c021/34da8e13-f9e9-4751-bb
gpuattention-model인공지능(ai)transformerllmlogt
・
6ヶ月前
0
209
2
- 解決
질문있는데요.. vLLM은 말씀하신 사양에 적용이되나요?
vLLM은 강의소개 pc사양에 적용이되나요? GPU가 제공되는 모델만 되지않는지?일반 pc에 적용되는지 궁금합니다.</stron
gpuattention-model인공지능(ai)transformerllmlasttokens55853591
・
6ヶ月前
0
143
2
- 未解決
강의 영상 오류
섹션3. 9 encoder 모델 자세히 보기영상에서 9:20~9:23 이 부분 중간에 잘못 잘린거 같습니다.
gpuattention-model인공지능(ai)transformerllmkjunekjune0812
・
7ヶ月前
0
126
1

