Hiểu về kiến trúc LLM và chiến lược tận dụng GPU dành cho bậc thầy AI
Hiểu về kiến trúc LLM dựa trên Transformer và chiến lược tận dụng GPU, đồng thời trực tiếp thực hành toàn bộ quy trình triển khai serving thực tế bằng vLLM. Khóa học bao quát toàn bộ quy trình thực tiễn, từ xây dựng pipeline hệ thống AI, giám sát đến sử dụng nhiều GPU, được thiết kế theo hướng trực quan, tập trung vào hình ảnh và thực hành để dễ hiểu mà không cần đến các công thức phức tạp.
535 học viên
Độ khó Cơ bản
Thời gian Không giới hạn
- Chưa giải quyết
터보퀀트(예정)
안녕하세요.터보퀀트(예정) 때문에 수강완료가 안되고 있는데 이걸 해결할 방법이 없나요 ?수강 100
gpuattention-model인공지능(ai)transformerllmyujinseok3246
・
22 ngày trước
0
51
1
- Chưa giải quyết
ssh 연결
안녕하세요! 강의 잘듣고있습니다! 다름이 아니라, 클라우드 gpu를 로컬에서 사용할때 ssh 방식말고는 사용할 수 없을까요?? 예를 들면 제 pc에서 클라우드 gpu를 연결한 것처럼 세팅해서 r스튜디오 같은 분석 환경
gpuattention-model인공지능(ai)transformerllmdotodiary6313
・
2 tháng trước
0
76
1
- Đã giải quyết
54강 양자화의 끝판왕, 터보퀀트 (예정) 강의 업로드
안녕하세요. 해당 강의를 잘 수강하며 많은 도움을 받고 있습니다.하지만 현재 마지막 54강 양자화의 끝판왕, 터보퀀트 (예정) 부분으로 인해 진도율 100%을
gpuattention-model인공지능(ai)transformerllmjaejunglee7625
・
3 tháng trước
0
88
1
- Chưa giải quyết
블로그에 학습 내용 올려도 되나요?
선생님 강의 내용 공부한 것을 개인 블로그같은 곳에 요약해서 올려도 되나요? 아무래도 선생님 noetbook 코드의 일부가 포함이 되어야할것 같은데..가능한지 여쭤봅니다
gpuattention-model인공지능(ai)transformerllmmissingha9322
・
3 tháng trước
0
93
1
- Chưa giải quyết
runpod 사용방법이 궁금합니다..
강의듣고 할려고보는데.. pods이라던지 청구구분이 어떻게 사용해야할지 모르겠습니다.<img src="https://cdn.inflearn.com/public/files/posts/c540a7c3-7761
gpuattention-model인공지능(ai)transformerllmlasttokens55853591
・
4 tháng trước
0
120
1
- Đã giải quyết
[참고] Cannot connect to host host.docker.internal:8080
<img src="https://cdn.inflearn.com/public/files/posts/4b701dd0-9a1a-4b51-9716-83e8006fa729/3b91079b-5254-4f7d-bff3-2fd25af79217.png" media-type="img"
gpuattention-model인공지능(ai)transformerllmlogt
・
6 tháng trước
0
195
2
- Chưa giải quyết
40강 Multi GPU 필요성 설명이 두번 나오는 것 같아요
모델 배포 방안 쪽 Tensor Parallelism과 Pipeline Parallelism 설명이 7분 30초 기준 한번 더 설명하시는 것 같아요. 판서는 살짝 다르지만 동일한 내용과 설명인 것 같아서 글 남겨봅니다<
gpuattention-model인공지능(ai)transformerllmchongin12
・
6 tháng trước
0
109
2
- Đã giải quyết
There are no longer any instances available with the requested specifications. Please refresh and try again.
<img src="https://cdn.inflearn.com/public/files/posts/c18e7efd-4fd9-4ba0-8b50-5bedd362c021/34da8e13-f9e9-4751-bb
gpuattention-model인공지능(ai)transformerllmlogt
・
6 tháng trước
0
209
2
- Đã giải quyết
질문있는데요.. vLLM은 말씀하신 사양에 적용이되나요?
vLLM은 강의소개 pc사양에 적용이되나요? GPU가 제공되는 모델만 되지않는지?일반 pc에 적용되는지 궁금합니다.</stron
gpuattention-model인공지능(ai)transformerllmlasttokens55853591
・
6 tháng trước
0
143
2
- Chưa giải quyết
강의 영상 오류
섹션3. 9 encoder 모델 자세히 보기영상에서 9:20~9:23 이 부분 중간에 잘못 잘린거 같습니다.
gpuattention-model인공지능(ai)transformerllmkjunekjune0812
・
7 tháng trước
0
126
1

