inflearn logo
강의

강의

N
챌린지

챌린지

멘토링

멘토링

N
클립

클립

로드맵

로드맵

지식공유

LLM 애플리케이션 경험 공유회

Q. 사내 챗봇을 만드는 방법이 궁금해요. (사용모델, GPU서버)

사내망 전용 챗봇 개발

115

김진홍

작성한 질문수 1

0

안녕하세요 현재 직원수가 400명 정도 되는 중견 기업에서 IT 부서에 근무하고 있는 직원 입니다.

현재 python 으로 streamlit 이용해서 사내망 전용 챗봇을 개발 중입니다.ollama 를 이용 해서 일부 개발 진행 중인데 답변도 정확하지 않는 부분이 많습니다. 어떻게 하면 좋을까요 그리고 사내망 전용 챗봇 개발 시 참고 해야될 부분이 있으면 알려주시면 감사하겠습니다.

llm rag

답변 1

0

인프런 AI 인턴

안녕하세요, 인프런 AI 인턴입니다. 김진홍님.

사내망 전용 챗봇 개발 시 고려해야 할 몇 가지 중요한 사항을 안내드립니다.

  1. 데이터 품질과 학습: 챗봇의 정확도를 높이기 위해서는 고품질의 데이터가 필요합니다. 사내에서 자주 묻는 질문과 그에 대한 답변을 수집하여 데이터셋을 강화하는 것이 중요합니다. 이를 위해서는 IT 부서가 주도적으로 사내 데이터를 정제하고, 학습 데이터셋으로서 활용할 수 있도록 준비하는 것이 필요합니다.

  2. 모델 선택: 다양한 자연어 처리(NLP) 모델이 있으며, 각 모델은 특정한 장점과 한계를 가지고 있습니다. 주어진 목적에 맞는 최적의 모델을 선택하는 것이 중요합니다. GPT-3, BERT, 혹은 최신 LLM(대형 언어 모델) 등 사용 목적에 맞는 모델을 고려해 보세요.

  3. 보안: 사내망에서 운영되는 챗봇인 만큼 데이터 보안에 특히 신경 써야 합니다. 민감한 정보가 외부로 유출되지 않도록 데이터 암호화 및 접근 권한 제어를 엄격히 관리해야 합니다.

  4. 지속적인 피드백 루프: 챗봇의 성능을 개선하기 위해서는 사용자로부터 지속적으로 피드백을 받을 수 있는 메커니즘이 필요합니다. 피드백을 기반으로 모델을 개선하면서, 사내에서 활용되는 다양한 시나리오를 더 잘 처리할 수 있도록 발전시켜 나가야 합니다.

이에 더해 직무 관련 토론 및 개발 팁을 얻기 위해 다음 URL에서 다양한 인사이트를 찾을 수 있습니다: 챗봇 개발 관련 토론

저는 질문자님의 이해를 돕고자 지식공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해드리고 있습니다.
현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏
추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.

강의자료 링크 열리지 않음.

0

16

2

28강 REVIEW.md 파일이 없습니다.

0

11

0

클로드 데스크톱 강의에서 교안찾기

0

36

2

강의내용중에 CoT 부분

0

45

2

강의 내용중에 var

0

41

1

목차랑 내용이 전혀 다른데요

0

60

2

수강인증 수료배지 링크가 만료되었습니다.

0

43

1

4.2.2 ~ 10.3.2.1 강의 영상 안나옴

0

57

2

강의 교안 예시

0

39

1

완독 챌린지 도서 인정 방법에 대한 문의

0

64

2

햅틱? 백틱?

0

54

1

postgresql 인텔리제이 커뮤니케이션 버전에서는 실행 안되나요?

0

54

2

api응답내용이 한글이 아닌 다른 언어와 섞여서 나옴.

0

50

1

(261004) 현재 상황 공유

0

58

2

(261004) 본 강의 실습에 대한 현재 상황 공유

0

62

2

ai 레드티밍 자료 및 강의 누락

0

52

1

스크립트 영상 미일치

0

76

3

수업자료 관련 문의

0

66

3

5강 녹음 소리 ㅠㅠ

1

72

3

github주소가 안보여요. ㅠ

0

75

2

강의 자료 요청드립니다.

0

50

1

ssh 연결

0

52

1

Gemini File Search API

0

50

2

8강 GetEmail output 문제 도와주세요~

0

53

2