AI 입문을 위한 LLM 아키텍처 이해와 GPU 활용전략
트랜스포머 기반 LLM 아키텍처와 GPU 활용 전략을 이해하고, vLLM을 활용한 실제 서빙 과정까지 직접 실습합니다. AI 시스템 파이프라인 구축부터 모니터링, 멀티 GPU 활용까지 실무 흐름 전체를 다루며, 복잡한 수식 없이 그림과 실습 중심으로 직관적으로 이해할 수 있도록 구성한 강의입니다.
- 해결
[참고] Cannot connect to host host.docker.internal:8080
<img src="https://cdn.inflearn.com/public/files/posts/4b701dd0-9a1a-4b51-9716-83e8006fa729/3b91079b-5254-4f7d-bff3-2fd25af79217.png" media-type="img"
gpuattention-model인공지능(ai)transformerllmlogt
・
한 달 전
0
54
2
- 미해결
40강 Multi GPU 필요성 설명이 두번 나오는 것 같아요
모델 배포 방안 쪽 Tensor Parallelism과 Pipeline Parallelism 설명이 7분 30초 기준 한번 더 설명하시는 것 같아요. 판서는 살짝 다르지만 동일한 내용과 설명인 것 같아서 글 남겨봅니다<
gpuattention-model인공지능(ai)transformerllmchongin12
・
한 달 전
0
52
2
- 해결
There are no longer any instances available with the requested specifications. Please refresh and try again.
<img src="https://cdn.inflearn.com/public/files/posts/c18e7efd-4fd9-4ba0-8b50-5bedd362c021/34da8e13-f9e9-4751-bb
gpuattention-model인공지능(ai)transformerllmlogt
・
한 달 전
0
81
2
- 해결
질문있는데요.. vLLM은 말씀하신 사양에 적용이되나요?
vLLM은 강의소개 pc사양에 적용이되나요? GPU가 제공되는 모델만 되지않는지?일반 pc에 적용되는지 궁금합니다.</stron
gpuattention-model인공지능(ai)transformerllm이경용
・
2달 전
0
74
2
- 미해결
강의 영상 오류
섹션3. 9 encoder 모델 자세히 보기영상에서 9:20~9:23 이 부분 중간에 잘못 잘린거 같습니다.
gpuattention-model인공지능(ai)transformerllmWonJune Lee
・
3달 전
0
95
1