Inflearn コミュニティ Q&A

안녕하세요, 좋은 질문 감사합니다. 하나씩 답변을 드려보자면

1. 네, 맞습니다. LangChain은 오픈소스 프레임워크이고, 말씀하신 것처럼 특정 도메인에 특화된 LLM 애플리케이션을 만들 때 많이 씁니다. 다만 한 가지 구분하면 좋은 게 있는데, "홈플러스 전용 LLM"이라고 하면 모델 자체를 새로 만드는 것처럼 들리지만, 실제로는 GPT-4나 Claude 같은 기존 범용 모델 위에 홈플러스의 데이터를 연결해서 "홈플러스에 대해 잘 대답하는 앱"을 만드는 거라고 보시면 됩니다. LangChain이 해주는 역할은 그 "연결"을 쉽게 해주는 겁니다.

2. 이건 아주 핵심적인 오해를 짚어주신 건데, GPT나 Gemini 같은 서비스는 few-shot 예제를 미리 다 넣어놓는 방식이 아닙니다.

작동 방식이 계층적으로 나뉘게 됩니다:

1단계 — 사전학습(Pre-training): 인터넷의 방대한 텍스트를 학습해서 언어 자체를 이해하는 단계입니다. 이게 "거대한" 부분이고, few-shot과는 전혀 다른 부분입니다..

2단계 — RLHF 등 정렬(Alignment): 사람이 좋은 답변/나쁜 답변을 평가해서 모델이 유용하고 안전하게 대답하도록 튜닝합니다.

3단계 — 시스템 프롬프트: 각 서비스가 내부적으로 "너는 이런 식으로 대답해라"라는 지침을 넣어둡니다.

그러니까 few-shot은 이미 똑똑한 모델을 특정 작업에 맞게 안내할 때 쓰는 기법이지, 모델의 전체 지식을 만드는 방법은 아닙니다. 비유하자면 — 이미 한국어를 유창하게 하는 사람한테 "이 회사에서는 고객 응대를 이런 톤으로 해줘"라고 예시 2-3개 보여주는 것과 비슷합니다. 한국어를 처음부터 가르치는 게 아니라요.

수강 중이신 강의에서 few-shot을 배운 건, 나중에 LangChain으로 앱을 만들 때 "내 앱이 이런 형식으로 대답하게 하고 싶다"는 상황에서 쓰는 도구를 배운 거라고 보시면 됩니다.

안녕하세요, 인숩 님 인프런 AI 인턴입니다.

LangChain에 대한 질문을 주셔서 감사합니다. 귀하의 질문에 대해 다음과 같이 답변드리겠습니다.

1. LangChain과 LLM 서비스 개발: LangChain은 오픈소스 프레임워크로, 다양한 LLM (대규모 언어 모델) 서비스를 구축하고 관리하는 데 유용합니다. 이를 통해 특정 서비스나 특정 분야에 특화된 챗봇이나 LLM 서비스를 개발할 수 있습니다. 예를 들어, 홈플러스 전용의 LLM이나 특정 대학교의 학사 정보 제공을 위한 LLM과 같은 커스터마이즈드 애플리케이션을 LangChain을 활용해 만들 수 있습니다. LangChain을 사용하면 LLM과 다양한 데이터 소스, API 등을 쉽게 연결할 수 있어, 맞춤형 솔루션 개발이 가능합니다.

2. Few-shot 학습과 LLM의 예측: Few-shot 학습에서, 사람이 직접 [질문-답변] 예제 데이터를 제공해야 하는 것은 맞습니다. 하지만, 거대한 LLM (예: GPT, Gemini)들은 일반적인 언어 패턴을 학습하여 어떤 질문이든 적절히 대응할 수 있도록 설계되어 있습니다. 기존 대규모 데이터에서 학습된 지식을 바탕으로 다양한 질문에 대응할 수 있는 것이 특징입니다. 모든 가능성을 예상해서 데이터를 넣어놓기보다는, 모델이 이미 폭넓은 지식을 가지고 있기 때문에 예제는 모델의 응답을 미세하게 조정하는 용도로 사용됩니다.

이와 관련된 다른 학습 자료나 예제들은 아래의 링크를 통해 더 살펴보실 수 있습니다:
- “LangSmith를 활용한 LLM Evaluation에서 metadata 만드는법”

저는 질문자님의 이해를 돕고자 지식공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해드리고 있습니다. 현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏 추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.