대규모언어모델

파이토치

Deep Learning(DL)

딥러닝

안드리부르코프

Book Reading Challenge

북 챌린지

<대규모 언어 모델, 핵심만 빠르게!>(인사이트, 2025) 도서를 5주간 완독하는 챌린지입니다. 풍성한 혜택과 함께 대규모 언어 모델을 배울 수 있는 절호의 기회를 놓치지 마세요!

박해선

입문

초급

중급이상

PyTorch

자연어처리(Natural Language Processing)

대규모 언어 모델

<대규모 언어 모델, 핵심만 빠르게!> 완독 챌린지

<div><div class="grid-wrapper "><div class="left-action-menu-wrapper css-1jj2wwy action-menu-wrapper--view-mode" tabindex="0"><div class="one-column-grid"><div><div class="box__children-wrapper"><div class="action-menu-wrapper action-menu-wrapper--view-mode"><div class="editor-container text-view-mode" style="display:flex;flex-direction:column;height:auto;max-height:100%;min-height:auto;border-radius:8px"><div data-testid="editor-content-container" class="editor-content-container markdown-body" style="background-color:rgb(255, 255, 255);cursor:auto"><div role="textbox" translate="yes" class="tiptap ProseMirror" tabindex="-1"><h3 style="text-align:left">챌린지 일정</h3><ul><li><p style="text-align:left"><span style="background-color:transparent;color:rgb(89, 89, 89)">모집 일정: 10/30(목) ~ 11/12(수)</span></p></li><li><p style="text-align:left"><span style="background-color:transparent;color:rgb(89, 89, 89)">챌린지 일정: 11/13(목)~12/17(수) (5주간)</span></p></li><li><p style="text-align:left"><span style="background-color:transparent;color:rgb(89, 89, 89)">주당 독서량: 1주당 1개장씩 1장부터 5장까지 완독</span></p><p style="text-align:left"><br class="ProseMirror-trailingBreak"></p></li><li><p style="text-align:left"><span style="background-color:transparent;color:rgb(89, 89, 89)">챌린지 기간 안에 미션과 수강률 100%에 도달하면 수료증이 발급됩니다. 미션을 완료하지 못하면 수료증을 발급해 드릴 수 없습니다.</span></p></li><li><p style="text-align:left"><span style="background-color:transparent;color:rgb(89, 89, 89)">전자책 출간 예정일: 11월 14일, 도서 구매 인증에 전자책도 포함됩니다.</span></p></li></ul><h3 style="text-align:left">챌린지 혜택</h3><ul><li><p style="text-align:left"><span style="background-color:transparent;color:rgb(89, 89, 89)">&lt;대규모 언어 모델, 핵심만 빠르게!&gt; 강의 무료 쿠폰 제공 (40,000원 상당)</span></p><p style="text-align:left"><br class="ProseMirror-trailingBreak"></p></li><li><p style="text-align:left"><a target="_blank" rel="noopener noreferrer nofollow" href="https://inf.run/LLAFJ"><span style="background-color:transparent;color:rgb(89, 89, 89)">&lt;밑바닥부터 만들면서 배우는 LLM&gt; 강의(https://inf.run/wQDh8)</span></a><span style="background-color:transparent;color:rgb(89, 89, 89)"> 50% 할인 쿠폰 제공 (30,000원 상당)</span></p></li><li><p style="text-align:left"><span style="background-color:transparent;color:rgb(89, 89, 89)"><strong>챌린지 수료시 추가 혜택</strong></span></p><ul><li><p style="text-align:left"><span style="background-color:transparent;color:rgb(89, 89, 89)">&lt;머신러닝, 핵심만 빠르게!&gt; 강의 무료 쿠폰 제공 (40,000원 상당) (12월 17일 이후 발급 예정)</span></p></li><li><p style="text-align:left"><span style="background-color:transparent;color:rgb(89, 89, 89)">&lt;LLM 미세 튜닝, 핵심만 빠르게!&gt;(출간 예정) 챌린지 무료 쿠폰 제공 (20,000원 상당) (챌린지 오픈 및 무료 쿠폰 발급 일정 추후 안내)</span></p></li></ul></li><li><p style="text-align:left"><span style="background-color:transparent;color:rgb(89, 89, 89)">혜택은 인프런 쿠폰으로 제공됩니다. 아래 <strong>주의 사항</strong>을 꼭 참고하세요.</span></p></li></ul></div></div></div></div></div></div></div></div></div><div class="grid-wrapper "><div class="left-action-menu-wrapper css-1jj2wwy action-menu-wrapper--view-mode" tabindex="0"><div class="one-column-grid"><div class="action-menu-wrapper action-menu-wrapper--view-mode"><div class="info-box info-box--gray" aria-labelledby="info-box__editable-aria"><div class="editor-container text-view-mode" style="display:flex;flex-direction:column;height:100%;max-height:100%;min-height:24px;border-radius:8px"><div data-testid="editor-content-container" class="editor-content-container markdown-body" style="background-color:rgb(255, 255, 255);cursor:auto"><div role="textbox" translate="yes" class="tiptap ProseMirror" tabindex="-1"><p><strong>&lt;주의 사항&gt; 필독!!!</strong></p><ul><li><p><span style="background-color:transparent;color:rgb(89, 89, 89)">11월 13일 챌린지 가입자에게&nbsp;&lt;대규모 언어 모델, 핵심만 빠르게!&gt; 강의의 <strong>무료 쿠폰 발급 링크</strong>와&nbsp;&lt;밑바닥부터 만들면서 배우는 LLM&gt; 강의의 <strong>50% 할인 쿠폰 발급 링크</strong>가 인프런에 등록된 <strong>이메일</strong>로 전달됩니다.</span></p></li><li><p><span style="background-color:transparent;color:rgb(89, 89, 89)">인프런에서 이메일을 받을 수 있는지 미리 확인해 주세요. 스팸 메일로 처리될 경우 추후 재발급해 드리지 못합니다. 인프런에서 이메일을 수신하는데 문제가 있다면 인프런 헬프 데스크에 문의해 주세요.</span></p></li><li><p><span style="background-color:transparent;color:rgb(89, 89, 89)">이 링크의 유효 기간은 <strong>3일</strong>입니다. 3일 이내에 링크를 통해 무료 쿠폰과 할인 쿠폰을 발급하셔야 합니다. <strong>3일이 지나면 링크는 무효가 되며 쿠폰을 발급받을 수 없습니다!</strong></span></p></li><li><p><span style="background-color:transparent;color:rgb(89, 89, 89)"><strong>발급 받은 쿠폰은 1일 이내 사용하셔야 합니다!</strong></span></p></li><li><p><span style="background-color:transparent;color:rgb(89, 89, 89)">챌린지 수료시 &lt;머신러닝, 핵심만 빠르게!&gt; 강의의 쿠폰 발급 링크를 이메일로 즉시 보내 드리며, 추후 &lt;LLM 미세 튜닝, 핵심만 빠르게!&gt;(출간 예정) 도서의 챌린지 오픈시 무료 쿠폰 발급 링크를 이메일로 보내 드립니다. 쿠폰 발급 방법과 사용 방법은 위와 동일합니다.</span></p></li></ul></div></div></div></div></div></div></div></div><div class="grid-wrapper "><div class="left-action-menu-wrapper css-1jj2wwy action-menu-wrapper--view-mode" tabindex="0"><div class="one-column-grid"><div><div class="box__children-wrapper"><div class="action-menu-wrapper action-menu-wrapper--view-mode"><div class="editor-container text-view-mode" style="display:flex;flex-direction:column;height:auto;max-height:100%;min-height:auto;border-radius:8px"><div data-testid="editor-content-container" class="editor-content-container markdown-body" style="background-color:rgb(255, 255, 255);cursor:auto"><div role="textbox" translate="yes" class="tiptap ProseMirror" tabindex="0"><h3 style="text-align:left">책소개</h3><p style="text-align:left">복잡한 이론은 덜고, 꼭 필요한 핵심만 담았다!</p><p style="text-align:left">언어 모델링을 익히는 가장 간결한 안내서</p><p style="text-align:left">이 책은 안드리 부르코프의 베스트셀러 《머신러닝, 핵심만 빠르게!》의 후속작으로, 언어 모델링의 기초부터 시작하여 최신 대규모 언어 모델(LLM)을 간결하면서도 철저하게 다룬다. 독자들은 이 책을 통해 현대 머신러닝과 신경망의 수학적 기초, 파이썬으로 구현하는 카운트, RNN 기반 언어 모델, 파이토치로 직접 만드는 트랜스포머, LLM 실습(지시 미세 튜닝, 프롬프트 엔지니어링)까지 체계적으로 학습할 수 있다.</p><p style="text-align:left">실행 가능한 파이썬 코드와 구글 코랩 환경을 기반으로 실습형으로 구성된 이 책은 누구나 단계별로 따라가며 이해를 확장할 수 있다. 언어 모델이 단순한 n-그램 통계에서 출발해 오늘날 AI의 핵심 기술로 성장해 온 과정을 카운트 기반 방법부터 시작해서 최신 트랜스포머 아키텍처까지 설명하며, 원리와 구현을 함께 다룬다. 각 장은 앞선 내용을 토대로 점진적으로 발전하며, 복잡한 개념도 명확한 설명과 그림, 실습을 통해 쉽게 이해할 수 있도록 구성되어 있다.</p><h3 style="text-align:left">추천평</h3><p style="text-align:left">“이 책은 머신러닝이 실제로 어떻게 작동하는지에 관한 개념적 혼란을 정리해 준다. 머신러닝을 명료하게 담아낸 보석 같은 책이다.”<br><strong>- 빈트 서프(Vint Cerf) (인터넷 개척자이자 튜링상 수상자)</strong></p><p style="text-align:left">“언어 모델링에 처음 발을 들여 최첨단을 향해 나아가고자 하는 이들에게 훌륭한 출발점이다.”<br><strong>- 토마시 미콜로프(Toma? Mikolov) (word2vec와 FastText의 개발자)</strong></p><p style="text-align:left">“안드리는 선형대수 기초부터 트랜스포머 구현까지 100여 번의 멋진 붓질로 여정을 그려낸다.”<br><strong>- 플로리앙 두에토(Florian Douetteau) (Dataiku의 공동 창업자 겸 CEO)</strong></p><p style="text-align:left">“LLM의 내부 작동 원리를 깊이 이해할 수 있는 가장 포괄적이면서도 간결한 안내서 중 하나다.”<br><strong>- 제리 리우(Jerry Liu) (LlamaIndex의 공동 창업자 겸 CEO)</strong></p><p style="text-align:left">“안드리는 거대한 AI 개념을 한 입 크기로 줄여, 독자가 ‘이제 이해했어!’라고 느끼게 만드는 거의 초자연적인 재능을 가지고 있다.”<br><strong>- 호르헤 토레스(Jorge Torres) (MindsDB의 CEO)</strong></p><h3 style="text-align:left">도서 구입</h3><ul><li><p style="text-align:left"><span style="background-color:rgb(255, 255, 255);color:rgb(68, 68, 68)">[</span><a target="_blank" rel="noreferrer noopener" href="https://product.kyobobook.co.kr/detail/S000218197400"><strong>교보문고</strong></a><span style="background-color:rgb(255, 255, 255);color:rgb(68, 68, 68)">] [</span><a target="_blank" rel="noreferrer noopener" href="https://www.yes24.com/product/goods/159566794"><strong>Yes24</strong></a><span style="background-color:rgb(255, 255, 255);color:rgb(68, 68, 68)">]&nbsp;</span><a target="_blank" rel="noreferrer noopener" href="http://www.yes24.com/Product/Goods/96024871?fbclid=IwAR3YJd3dKMzt6YP6ZTPwGWUb9ixTm9lsK1WEiBkBCZxzVEXQvb6OPnY47Ek">[</a><a target="_blank" rel="noreferrer noopener" href="https://www.aladin.co.kr/shop/wproduct.aspx?ItemId=374608511"><strong>알라딘</strong></a><span style="background-color:rgb(255, 255, 255);color:rgb(68, 68, 68)">]</span></p></li><li><p style="text-align:left"><span style="background-color:rgb(255, 255, 255);color:rgb(68, 68, 68)">220페이지,&nbsp;</span><s>24,000</s><span style="background-color:rgb(255, 255, 255);color:rgb(68, 68, 68)">원 –&gt; 21,600원</span></p></li></ul></div></div></div></div></div></div></div></div></div><div class="grid-wrapper "><div class="left-action-menu-wrapper css-1jj2wwy action-menu-wrapper--view-mode" tabindex="0"><div class="one-column-grid"><div class="action-menu-wrapper action-menu-wrapper--view-mode"><div class="image-text__container image-text"><div class="dropzone__wrapper"><div class="image-text__placeholder mantine-1avyp1d"><svg aria-hidden="true" focusable="false" data-prefix="fas" data-icon="image" class="svg-inline--fa fa-image " role="img" xmlns="http://www.w3.org/2000/svg" viewBox="0 0 512 512" style="font-size:32px;color:rgb(134, 142, 150);width:32px;height:32px"><path fill="currentColor" d="M0 96C0 60.7 28.7 32 64 32H448c35.3 0 64 28.7 64 64V416c0 35.3-28.7 64-64 64H64c-35.3 0-64-28.7-64-64V96zM323.8 202.5c-4.5-6.6-11.9-10.5-19.8-10.5s-15.4 3.9-19.8 10.5l-87 127.6L170.7 297c-4.6-5.7-11.5-9-18.7-9s-14.2 3.3-18.7 9l-64 80c-5.8 7.2-6.9 17.1-2.9 25.4s12.4 13.6 21.6 13.6h96 32H424c8.9 0 17.1-4.9 21.2-12.8s3.6-17.4-1.4-24.7l-120-176zM112 192a48 48 0 1 0 0-96 48 48 0 1 0 0 96z"></path></svg></div><figure class="dropzone-preview__figure"><div class="dropzone-preview__uploaded-anchor dropzone-preview__uploaded-anchor--no-link"><img class="dropzone-preview__uploaded-content  " src="https://cdn.inflearn.com/public/files/courses/339404/builder/01k8qhjgmn6e0wn9y73tk9g8kj?w=960" alt="cover-the-lm-book"></div></figure></div><div class="action-menu-wrapper action-menu-wrapper--view-mode"></div></div></div></div></div></div></div>

0주차 - 강의 소개

1주차 - 1장 머신러닝 기초

2주차 - 2장 언어 모델링 기초

3주차 - 3장 순환 신경망

4주차 - 4장 트랜스포머

5주차 - 5장 대규모 언어 모델

앞으로 공부하는데 많은 도움이 될것 같습니다.

이 강의는 완독 챌린지 인증용 강의이고 도서 관련 강의가 무료로 제공됩니다. 좋은 책 번역해 주셔서 감사합니다!

밑바닥 LLM을 보고 이 책을 봐서 그런지 핵심만 정리한 부분들이 이해가 되었습니다. 다른 강좌와 함께 보면 좋을것 같습니다.

어렵지만 어찌저찌 따라가고 있습니다 @_@

분량은 적고 이해 노력은 필요한 이상적(?) 구조

LLM 관련 이론 정리에 좋은 내용입니다.
감사합니다. ^^

도서 구매 인증

인증

권기창

주간 독서 인증

섹션6 제출

Minguk Jin

<img src="https://cdn.inflearn.com/public/files/posts/6ed99c6b-f53c-4fe5-95c3-038f29bed9e1/1b18b5ce-a81a-4daf-8167-b14da028c022.webp" media-type="img" alt="1000002109.jpg.webp" title="1000002109.jpg.webp" width="529" height="705"><p>가장 중요하다는 어텐션과 트랜스포머에 대해 공부. </p><p>-</p>

섹션5 제출

섹션4 제출

<img src="https://cdn.inflearn.com/public/files/posts/a13f67ea-6546-4637-ae03-a35cc872d4e9/29c71334-fc94-4155-a3a8-3e70344e32ae.webp" media-type="img" alt="1000002107.jpg.webp" title="1000002107.jpg.webp" width="529" height="705"><p>&nbsp;</p><p>언어모델에 대해 알아봄.</p>

섹션3 제출

<img src="https://cdn.inflearn.com/public/files/posts/82241b4f-b45f-4916-98fb-c157bd19ae67/1e714156-2d27-492e-8618-30e43017fdbd.webp" media-type="img" alt="1000002106.jpg.webp" title="1000002106.jpg.webp" width="529" height="705"><p>&nbsp;</p><p>머신러닝의 기본에 대해 공부.</p>

섹션2 제출

섹션1 제출

<img src="https://cdn.inflearn.com/public/files/posts/4e510b96-a95b-4d3d-b6ec-43d93eed636e/d9baf78d-84a8-4768-8dbb-0debd980d890.webp" media-type="img" alt="KakaoTalk_20251217_231001151_01.jpg.webp" title="KakaoTalk_20251217_231001151_01.jpg.webp" width="527" height="395"><img src="https://cdn.inflearn.com/public/files/posts/f9f74c5c-e826-4aee-b9b9-5a0490919eaf/cac7985b-6240-4176-8862-854310d06738.webp" media-type="img" alt="KakaoTalk_20251217_231001151_02.jpg.webp" title="KakaoTalk_20251217_231001151_02.jpg.webp" width="527" height="702"><p>llm 쓸 때 파라미터 조절할 때 자주 보이던 단어들을 보니 반가웠습니다..</p><p>lora나 qlora 같이 예전에 sllm 튜닝할 때 공부했던 것들을 복습할 수 있었던 기회였습니다.</p>

5장 독서 인증

j808esc

<img src="https://cdn.inflearn.com/public/files/posts/92836e69-3eb8-47d7-be26-ad7007534eb4/f7e093d2-6251-4a0c-b34a-8f8e72ea57f8.webp" media-type="img" alt="KakaoTalk_20251217_231001151.jpg.webp" title="KakaoTalk_20251217_231001151.jpg.webp" width="527" height="702"><p>디코더 기반 트랜스포머에 대해서 주로 알아봤고,</p><p>사실 이 장이 가장 어려워서 오래 걸렸던 것 같습니다.</p><p>셀프어텐션 스텝과 위치 인코딩, 로터리 포지션 임베딩 이후에 멀티헤드 어텐션까지 공부할 수 있었고 그래디언트 소실 방지를 위해 잔차 연결하는 것도 공부할 수 있었습니다.</p>

4강 독서 인증

키 값 헤싱

Abraham

<p><a target="_blank" rel="noopener noreferrer nofollow" href="https://blog.samstdio.com/llms-challenge-5-5/">https://blog.samstdio.com/llms-challenge-5-5/</a></p><p>&nbsp;</p><p>모두 수고 많았습니다~!</p>

챌린지 인증 5/5

삼승윤

언어모델 평가

<p>5장에서는 대규모 언어 모델(LLM)의 놀라운 능력의 원동력을 규모와 지도 학습 미세 튜닝이라는 두 가지 핵심 요소로 알아봅니다.</p><p>수천 억 개에서 수조 개의 파라미터, 수천 개 ~ 수백만 개의 토큰을 처리하는 큰 문맥 윈도우, 그리고 수조 개의 토큰으로 구성된 방대한 학습 데이터셋이 LLM이 복잡한 언어 패턴과 세계 지식을 학습하는 기반임을 강조하는데요.</p><p>특히 Llama 3.1 모델 시리즈 훈련에 약 4000만 GPU 시간이 소요되었다는 사실은 LLM 개발에 막대한 컴퓨팅 자원이 필요하다는 것을 알 수 있습니다.</p><p>다음으로 사전 훈련된 모델이 명령을 따르고 대화하는 능력을 갖추도록 만드는 지도 학습 미세 튜닝 과정을 알아보았습니다.</p><p>지도 학습 미세 튜닝은 모델이 사전 훈련 과정에서 학습한 지식과 기술을 '해제(unlock)'하여 문제 해결 능력을 발휘하도록 합니다.</p><p>계산 자원 효율성을 위한 LoRA(Low-Rank Adaptation) 기법은 대규모 모델의 미세 조정 비용을 낮출 수 있는 해결책으로 소개됩니다.</p><p>또한 LLM의 결과물 무작위성을 조절하는 샘플링 기법(온도 사용, Top-k, Top-p)과 프롬프트 엔지니어링의 모범 사례에 대해 알아봅니다.</p><p>마지막으로 LLM 사용의 주요 문제점인 환각(Hallucination)과 이를 완화하는 RAG(검색 증강 생성) 기법, 그리고 저작권과 윤리적 문제(훈련 데이터, 생성된 콘텐츠, 모델 가중치의 법적 지위)에 대한 논의는 LLM 개발에 있어 시스템 설계와 사람의 검토에 대한 중요성을 고민해 볼 수 있었습니다.</p><img src="https://cdn.inflearn.com/public/files/posts/9c8ff232-a72f-4cc0-87a1-ae9424a506d8/90c9c47e-5186-42e5-a135-faf64d4f64c7.webp" media-type="img" alt="20251217_202217(1).jpg.webp" title="20251217_202217(1).jpg.webp" width="527" height="502"><p>&nbsp;</p>

<대규모 언어 모델, 핵심만 빠르게!> 5주차 독서 인증

든든한꼬마

<p>4장에서는 자연어 처리(NLP) 분야를 크게 발전시킨 트랜스포머 모델에 대해 알아봅니다.</p><p>특히 디코더 기반(decoder-only) 아키텍처를 중심으로 알아보는데 이는 자기회귀 언어 모델 학습에 가장 널리 사용되는 접근 방식이기 때문입니다.</p><p>트랜스포머는 순환 신경망(RNN)이 가진 넓은 범위의 의존성 관리 한계를 극복하고 입력 시퀀스의 병렬 처리를 가능하게 합니다.</p><p>이 장의 핵심은 트랜스포머의 두 가지 주요 혁신인 셀프 어텐션과 위치 인코딩에 대한 설명입니다.</p><p>디코더 블록은 셀프 어텐션과 위치별 다층 퍼셉트론(MLP)의 두 하위 레이어로 구성되며 MLP는 각 벡터를 독립적으로 처리하지만 셀프 어텐션은 모든 단어가 다른 모든 단어와 어떻게 관련되는지 평가하도록 합니다.</p><p>여기서 셀프 어텐션의 6단계 작동 방식과 쿼리, 키, 값 행렬을 계산하는 과정에 대해 학습했습니다.</p><p>순서 정보를 처리하기 위해 로터리 위치 임베딩(Rotary Position Embedding, RoPE)가 도입되는데 이는 어텐션 메커니즘에서 쿼리 및 키 벡터에 위치 종속적 회전을 적용하여 단어 순서를 인코딩합니다.</p><p>RoPE는 훈련 시 보지 못한 더 긴 시퀀스에도 효과적으로 일반화될 수 있는 장점이 있습니다.</p><p>또한 모델의 학습 효율성과 안정성을 높이는 데 필수적인 멀티헤드 어텐션(Multi-head attention), 깊은 신경망의 학습을 가능하게 하는 잔차 연결(Residual Connection), 그리고 훈련 안정화를 위한 RMS 정규화(Root Mean Square Normalization)의 원리와 수학적 배경에 대해 알아보았습니다.</p><p>잔차 연결은 작은 가중치로 인해 그레이디언트 소실 문제(Vanishing Gradient Problem)를 해결하기 위해 상수항 '1'을 추가하여 그레이디언트 경로를 강화합니다.</p><p>후반부에서는 파이토치를 사용하여 'AttentionHead', 'MultiHeadAttention', 'MLP', 'DecoderBlock', 'DecoderLanguageModel' 클래스를 정의하는 코딩 예시를 통해 이론적 개념을 실제로 구현해봅니다.</p><p>특히 코잘 마스크의 적용과 추론 시 계산 효율성을 높이는 키-값 캐싱 기술 등 모델의 전체적인 작동 방식을 알아봅니다.</p><p>마지막으로 트랜스포머 모델이 RNN보다 더 나은 성능(Perplexity 55.19)을 달성했음을 보여주며 대규모 모델 학습의 중요성을 다시 한번 되짚어봅니다.</p><img src="https://cdn.inflearn.com/public/files/posts/f2af47c7-1086-452e-8c73-36a2c27affd5/78df3c0b-8afa-4100-bdb5-8f82ba50549e.webp" media-type="img" alt="20251217_195500(1).jpg.webp" title="20251217_195500(1).jpg.webp" width="527" height="664"><p>&nbsp;</p>

<대규모 언어 모델, 핵심만 빠르게!> 4주차 독서 인증

<p>3장에서는 순차 데이터 처리를 혁신적으로 이끈 순환 신경망(RNN)에 대해 중점적으로 알아보며 이후 등장한 트랜스포머 아키텍처를 이해하기 위한 기반을 배웠습니다.</p><p>1990년에 소개된 엘만 RNN(Elman RNN)을 중심으로 피드포워드 신경망과 달리 연결 고리(루프)를 포함하여 이전 단계의 정보를 다음 단계로 전달하는 RNN의 구조적 특성을 알아보았습니다.</p><p>또한 텍스트를 입력 시퀀스로 변환하는 과정과 단어 임베딩이 희소한 원핫 벡터 대신 사용되는 방식, 그리고 시퀀스 길이를 맞추기 위한 패딩(padding)의 역할과 처리 방법을 학습했습니다.</p><p>대규모 모델 훈련에 필수적인 미니 배치 경사 하강법의 개념과 데이터 형태, 그리고 학습 과정에서 'Dataset', 'DataLoader' 클래스가 데이터를 효율적으로 관리하는 방법도 알아보았습니다.</p><p>마지막으로 RNN 기반 언어 모델이 다음 토큰 예측을 위해 훈련 데이터를 어떻게 구성하는지(입력 시퀀스와 한 토큰 시프트된 타깃 시퀀스) 예시를 보며 손실 함수(CrossEntropyLoss)가 패딩 토큰을 무시하고 각 위치에서의 손실을 평균화하여 계산하는 과정을 숫자로 확인해보았습니다.</p><img src="https://cdn.inflearn.com/public/files/posts/6e53fd29-7f85-4ff6-8949-6fa93f439d10/977411c9-3adc-4a51-babc-0cbf2cb20bc3.webp" media-type="img" alt="20251217_185427(1).jpg.webp" title="20251217_185427(1).jpg.webp" width="527" height="567"><p>&nbsp;</p>

<대규모 언어 모델, 핵심만 빠르게!> 3주차 독서 인증

<p>2<span>장에서는</span>&nbsp;언어 모델링의 기초 원리와 텍스트를 컴퓨터가 처리할 수 있는 숫자 형태로 변환하는 방법을 학습했습니다.</p><p>가장 먼저 텍스트를 피처 벡터로 변환하는 가장 오래되고 효과적인 방법인 Bag of Words(BoW) 모델을 소개하는데 이를 다중 클래스 분류 작업에 적용하는 과정을 자세히 알아보았습니다.</p><p>책에서 BoW는 단순하고 실용적이지만 토큰 순서나 문맥 정보를 포착하지 못하는 명확한 한계를 가지고 있음을 지적합니다.</p><p>이러한 한계를 극복하기 위해 단어 임베딩(Word Embedding)이 등장하며 희소한 원핫 벡터 대신 밀집 벡터(dense vector)를 사용하여 단어 간의 의미론적 유사성을 포착하는 방법을 Word2vec의 Skip-gram 방식을 통해 알아보았습니다.</p><p>또한 어휘사전을 관리하고 OOV(Out of Vocabulary) 문제를 해결하기 위한 바이트 페어 인코딩(Byte-Pair Encoding, BPE) 토큰화 알고리즘의 원리와 구현 방식을 학습했습니다.</p><p>마지막으로 언어 모델의 핵심인 다음 토큰 예측과 통계적 기반의 카운트 기반 언어 모델(Count Based Language Model)을 알아보며 희소성 문제 해결을 위한 백오프(backoff) 기법과 라플라스 스무딩(Laplace Smoothing)에 대해 학습합니다.</p><p>모델 평가 지표인 혼잡도(perplexity)의 개념과 계산 과정, 그리고 미세 튜닝된 모델 평가를 위한 ROUGE, 사람의 평가(리커트 척도(Likert scale), 엘로 평점(Elo rating)) 방법까지 다루어 언어 모델링의 흐름을 알아보았습니다.</p><img src="https://cdn.inflearn.com/public/files/posts/14035ec1-41ef-498c-b32e-dedf4f3b4ce5/e82a94c3-eb25-4173-bb97-755660f71343.webp" media-type="img" alt="20251217_184845(1).jpg.webp" title="20251217_184845(1).jpg.webp" width="527" height="666">

<대규모 언어 모델, 핵심만 빠르게!> 2주차 독서 인증

<p>1장은 인공지능(AI)의 발전 과정을 폭넓게 다루며 초기 연구부터 AI 겨울을 거쳐 딥러닝 시대에 이르기까지를 설명하는 것으로 시작합니다.</p><p>모델의 정의와 <span>손실 함수 최소화의 중요성을 선형 회귀 예시를 통해 보여주고&nbsp;</span>머신러닝 지도 학습의 4단계 프로세스에 대해 알아보았습니다.</p><p>또한, 신경망의 기본 구조(비선형 활성화 함수, 다층 구조)를 벡터 및 행렬 계산과 연결하여 설명하여 신경망을 이해하는 데 크게 어려움이 없었습니다.</p><p>복잡한 모델 최적화를 위한 경사 하강법을 알아보았고 PyTorch를 활용하는 자동 미분의 개념을 학습했습니다.</p><p>ML의 역사적 배경과 핵심 수학적 기반을 체계적으로 알아보는 도입부 장이었습니다.</p><img src="https://cdn.inflearn.com/public/files/posts/c1ca5365-71d3-4a94-8c50-6a50abcdb992/97ca1c9a-1702-4375-a143-88bd7826f698.webp" media-type="img" alt="20251217_181648(1).jpg.webp" title="20251217_181648(1).jpg.webp" width="527" height="662">

<대규모 언어 모델, 핵심만 빠르게!> 1주차 독서 인증

<h3>5장. 대규모 언어 모델(LLM)</h3><ul><li><p><strong>규모가 클수록 좋은 이유</strong>: 대규모 언어 모델은 파라미터 수(임베딩 차원, 디코더 블록 개수), 문맥 길이, 훈련 데이터 규모, 그리고 막대한 계산 자원이 결합될수록 성능이 향상된다.</p></li><li><p><strong>지도 학습 미세 튜닝(SFT)</strong>: 사전학습 모델은 기본적으로 다음 단어 예측에 초점을 맞추지만, 지도 학습 기반 미세 튜닝을 통해 지시를 따르고 질문에 답하며 대화를 이어갈 수 있도록 학습된다.</p></li><li><p><strong>사전학습 모델 미세 튜닝</strong>: LLM을 처음부터 학습시키는 대신, 오픈 웨이트 모델을 활용해 특정 비즈니스 문제에 맞게 미세 튜닝하는 접근법을 다룬다. 이 과정에는 여전히 대량의 GPU 자원이 필요하다.</p></li><li><p><strong>언어 모델의 샘플링</strong>: 모델이 출력한 로짓을 실제 토큰으로 변환하기 위해 확률 분포에서 샘플링하며, temperature, top-k, top-p, penalty 등의 기법을 활용해 출력의 다양성과 안정성을 조절한다.</p></li><li><p><strong>LoRA(Low-Rank Adaptation)</strong>: 일부 파라미터만 업데이트하는 방식으로, 적은 자원으로도 유사한 성능을 얻을 수 있는 PEFT(Parameter-Efficient Fine-Tuning) 기법이다.</p></li><li><p><strong>분류용 LLM</strong>: 사전학습된 LLM 위에 분류 헤드를 추가하고, 완전연결층과 소프트맥스 활성화 함수를 사용해 분류 문제에 적용하는 방법을 소개한다.</p></li><li><p><strong>프롬프트 엔지니어링</strong>: 좋은 프롬프트의 구성 요소로 상황, 역할, 작업 정의, 출력 포맷, 제약 조건, 품질 기준, 예시, 명확한 행동 요청의 중요성을 강조한다.</p></li><li><p><strong>환각(Hallucination)</strong>: 환각은 모델 구조상 발생 가능한 현상이며, 이를 줄이기 위해 검증된 정보를 기반으로 응답하도록 하는 RAG, 도메인 특화 사전학습 등의 방법이 필요하다. 현 기술로는 환각을 완전히 제거할 수 없다는 점을 인식해야 한다.</p></li><li><p><strong>LLM, 저작권, 윤리</strong>: 훈련 데이터에 저작권이 있는 자료가 포함될 수 있으며, AI 생성물의 저작권 문제는 아직 명확하지 않다. 저작권 데이터 탐지, 오픈 웨이트 모델의 한계, 사회적 영향, 설명 가능성, 그리고 편향(bias)이 사회적 고정관념을 강화할 수 있다는 윤리적 쟁점을 함께 다룬다.</p></li><li><p><strong>느낀 점</strong>: 앞 장에서 배운 기초 기술들을 바탕으로, 현재의 LLM이 수많은 추가 단계와 고민을 거쳐 탄생했음을 이해할 수 있었다. 동시에 LLM을 어떻게 활용할 것인지, 그리고 앞으로 해결해야 할 기술적·윤리적 과제들이 무엇인지 생각해보는 계기가 되었다. 결국 도구를 올바르게 활용해 실생활에 도움이 되는 AI로 발전시키는 일은 앞으로도 인간의 몫이라는 생각을 해본다.</p></li></ul>

5주차

jhlee

<h3>4장. 트랜스포머(Transformer)</h3><ul><li><p><strong>디코더 블록</strong>: 두 개의 하위 계층으로 구성되며, 입력 토큰 임베딩에 대해 셀프 어텐션을 수행한 뒤 위치별 다층 퍼셉트론(MLP)을 통과한다.</p></li><li><p><strong>셀프 어텐션(Self-Attention)</strong>: Query, Key, Value를 계산한 후 어텐션 점수를 산출하고 스케일링 및 코잘 마스크를 적용한다. 이후 소프트맥스를 통해 어텐션 가중치를 구하고, 이를 이용해 최종 출력 벡터를 계산한다.</p></li><li><p><strong>위치별 다층 퍼셉트론(Feed-Forward Network)</strong>: 각 위치마다 동일한 가중치 행렬과 두 개의 편향 벡터를 사용하며, 마지막 출력에는 비선형 함수를 적용하지 않는다.</p></li><li><p><strong>로터리 위치 임베딩(RoPE)</strong>: 토큰의 상대적 위치 정보를 어텐션 계산에 통합하여 단어 순서를 효과적으로 반영한다.</p></li><li><p><strong>멀티헤드 어텐션</strong>: 셀프 어텐션을 확장한 구조로, 여러 개의 어텐션 헤드를 병렬로 수행한 뒤 연결(concatenation)과 투영(projection)을 통해 표현력을 강화한다.</p></li><li><p><strong>잔차 연결(Residual Connection)</strong>: 스킵 연결을 통해 정보 손실을 줄이고, 트랜스포머 구조에서 발생할 수 있는 그래디언트 소실 문제를 완화하는 핵심 요소이다.</p></li><li><p><strong>RMS 정규화(RMSNorm)</strong>: Root Mean Square 기반 정규화 기법으로, 셀프 어텐션 층과 위치별 MLP 사이에서 적용된다.</p></li><li><p><strong>키-값 캐싱(Key-Value Caching)</strong>: 이전 단계에서 계산된 Key와 Value 행렬을 저장해 재사용함으로써, 반복되는 계산을 줄이고 추론 속도를 크게 향상시킨다.</p></li><li><p><strong>트랜스포머 구현</strong>: <code>nn.Parameter</code>를 활용해 핵심 파라미터를 정의하며, 모델 구조는 RNN과 다르지만 학습 루프 자체는 동일한 패턴을 따른다는 점이 인상적이었다.</p></li><li><p><strong>느낀 점</strong>: 딥러닝에서는 모델의 구조 설계가 매우 중요하며, 각 구조는 이전 모델의 한계를 보완하고 명확한 목적을 달성하기 위해 진화해 왔다는 점을 이해하게 되었다. 수식이 많아 다소 부담스러웠지만, 세부 계산보다는 고차원적인 개념과 흐름을 이해하려 노력한 장이었다.</p></li></ul>

4주차

할인 없음

ViewContent.1769737189.339404.879e801d-8259-438c-b3fe-92267426454d