inflearn logo
강의

Course

Instructor

LLM Application Experience Sharing Session

Q. How to build an in-house chatbot? (Models used, GPU server)

사내망 전용 챗봇 개발

86

kjh897819922344

1 asked

0

안녕하세요 현재 직원수가 400명 정도 되는 중견 기업에서 IT 부서에 근무하고 있는 직원 입니다.

현재 python 으로 streamlit 이용해서 사내망 전용 챗봇을 개발 중입니다.ollama 를 이용 해서 일부 개발 진행 중인데 답변도 정확하지 않는 부분이 많습니다. 어떻게 하면 좋을까요 그리고 사내망 전용 챗봇 개발 시 참고 해야될 부분이 있으면 알려주시면 감사하겠습니다.

llm rag

Answer 1

0

communityai8509

안녕하세요, 인프런 AI 인턴입니다. 김진홍님.

사내망 전용 챗봇 개발 시 고려해야 할 몇 가지 중요한 사항을 안내드립니다.

  1. 데이터 품질과 학습: 챗봇의 정확도를 높이기 위해서는 고품질의 데이터가 필요합니다. 사내에서 자주 묻는 질문과 그에 대한 답변을 수집하여 데이터셋을 강화하는 것이 중요합니다. 이를 위해서는 IT 부서가 주도적으로 사내 데이터를 정제하고, 학습 데이터셋으로서 활용할 수 있도록 준비하는 것이 필요합니다.

  2. 모델 선택: 다양한 자연어 처리(NLP) 모델이 있으며, 각 모델은 특정한 장점과 한계를 가지고 있습니다. 주어진 목적에 맞는 최적의 모델을 선택하는 것이 중요합니다. GPT-3, BERT, 혹은 최신 LLM(대형 언어 모델) 등 사용 목적에 맞는 모델을 고려해 보세요.

  3. 보안: 사내망에서 운영되는 챗봇인 만큼 데이터 보안에 특히 신경 써야 합니다. 민감한 정보가 외부로 유출되지 않도록 데이터 암호화 및 접근 권한 제어를 엄격히 관리해야 합니다.

  4. 지속적인 피드백 루프: 챗봇의 성능을 개선하기 위해서는 사용자로부터 지속적으로 피드백을 받을 수 있는 메커니즘이 필요합니다. 피드백을 기반으로 모델을 개선하면서, 사내에서 활용되는 다양한 시나리오를 더 잘 처리할 수 있도록 발전시켜 나가야 합니다.

이에 더해 직무 관련 토론 및 개발 팁을 얻기 위해 다음 URL에서 다양한 인사이트를 찾을 수 있습니다: 챗봇 개발 관련 토론

저는 질문자님의 이해를 돕고자 지식공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해드리고 있습니다.
현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏
추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.

RateLimitError

0

14

2

안녕하세요 졸업프로젝트를 준비하는 학생입니다.!

0

15

1

2.3 Agentic RAG 관련 질문이 있습니다.

0

18

2

Google API에 Generative Language API 선택이 없습니다.

0

28

2

Serpapi 툴을 사용하려 하는데 검색이 안됩니다.

0

37

4

3강에서 api 키 연결시 에러가 납니다.

0

28

2

dotenv, langchain_community 로드가 되지 않습니다.

0

22

1

FMP API 유료

1

30

1

실습2_GPT기반_온라인_댓글_분류_자동.ipynb 파일 오류 있습니다.

0

26

1

2차시에서 진도가 안나고 있습니다

0

32

1

선생님 질문이 있어요

0

43

2

온톨로지 구축

0

28

1

강의 완료 시점 문의

0

32

1

n8n workflow 작성 시 gemini 연결 문제

0

47

2

클라우드 가입 시 회사 이메일

0

43

1

엥?? 화면이 안나옵니다.

0

36

1

깃허브 레포지토리 확인 요청

0

45

2

Langchain 공식문서 학습 질문

0

57

2

나머지 강의는 언제 업로드되나요?

0

43

1

[참고] Cannot connect to host host.docker.internal:8080

0

47

2

40강 Multi GPU 필요성 설명이 두번 나오는 것 같아요

0

49

2

There are no longer any instances available with the requested specifications. Please refresh and try again.

0

77

2

버전에 3.11이랑 3.11.X 랑 차이가 있나요?

0

45

1

왜 파이썬 버전을 같게 해야하는가?

0

61

3