-
질문 & 답변
카테고리
-
세부 분야
자연어 처리
-
해결 여부
미해결
GPT3의 퓨샷러닝과 파인튜닝에 대해 질문있습니다.
24.04.14 05:28 작성 조회수 52
0
안녕하세요 강사님, 좋은 강의 감사드리며 두가지 질문이 있습니다.
일반적으로 GPT 3.5를 그냥 사용한다고 할때, 퓨샷러닝이 학습때 사용되는 기법이 아니라고 이해하였는데 그러면 제가 GPT에게 "영어로 번역해줘"라고 타이핑하면 제 눈에는 안보이지만 GPT 자체적으로 예시를 몇가지 만들고 해당 내용을 바탕으로 추론 결과를 출력한다고 이해하는게 맞을까요?
GPT3 학습시 사용되지 않은 데이터에 대해서(특정 산업군 지식이라던지) 적절한 정보를 출력하는 LLM을 만들고자 한다면 파인튜닝이 필수적이라고 생각하였는데 맞나요??
모두를 위한 대규모 언어 모델 LLM(Large Language Model) Part 1 - Llama 2 Fine-Tuning 해보기
GPT-3 (2020) 모델 논문 리뷰 - Approach
강의실 바로가기
답변을 작성해보세요.
0
AISchool
지식공유자2024.04.16
안녕하세요~. 반갑습니다.
먼저 강의를 잘 듣고 계시다니 기쁘네요^^.
일반적으로 GPT 3.5를 그냥 사용한다고 할때, 퓨샷러닝이 학습때 사용되는 기법이 아니라고 이해하였는데 그러면 제가 GPT에게 "영어로 번역해줘"라고 타이핑하면 제 눈에는 안보이지만 GPT 자체적으로 예시를 몇가
지 만들고 해당 내용을 바탕으로 추론 결과를 출력한다고 이해하는게 맞을까요?
->
GPT가 자체적으로 예시를 몇가지 만들고 해당 내용을 바탕으로 추론을 진행하지는 않습니다. 따라서 GPT의 성능을 최대한 끌어올리려면 명시적으로 프롬프트를 구성할때 사람이 수동으로 실제로 몇가지 퓨샷 예시를 추가해서 GPT에게 전달하는 것이 좋습니다.
GPT3 학습시 사용되지 않은 데이터에 대해서(특정 산업군 지식이라던지) 적절한 정보를 출력하는 LLM을 만들고자 한다면 파인튜닝이 필수적이라고 생각하였는데 맞나요??
->
GPT3 학습시 사용되지 않은 데이터에 대해서(특정 산업군 지식이라던지) 적절한 정보를 출력하는 LLM을 만들고자 한다면 2가지 선택지가 있습니다.
첫번째로 해당 지식을 포함한 데이터로 파인튜닝을 진행하는 것입니다.
두번째로는 랭체인 등의 라이브러리를 이용해서 프롬프트를 구성할때 해당 지식을 같이 넣어주는 RAG(Retrieval-Augmented Generation) 시스템을 구축하는 것입니다.
좋은 하루 되세요.
감사합니다.
답변 1