인프런 커뮤니티 질문&답변

작성한 질문수

한시간으로 끝내는 LangChain 기본기

지금까지 배운 내용 총정리 (feat. 프롬프트 꿀팁 살짝)

Safety 이해

작성

안녕하세요 Safety 체인에 대해서 이해가 잘 안가서요.

예를들어 "독도는 누구땅이냐?"는 질문으로 하고 AI가 "독도는 한국땅"이다라는 응답을 했을때 해당 답변이 할루시네이션인지 아닌지를 검증하기 위한 "독도는 한국땅이 맞아 맞으면: Yes, 틀리면: No 로 대답해줘" 라는 Safety 질문을 만들고 그거를 체인으로 연결시키라는걸로 이해했는데 맞을까요?

프롬프트엔지니어링 llm langchain 카카오공채-개발

퀴즈

51%나 틀려요. 한번 도전해보세요!

랭체인의 주된 목적은 무엇일까요?

새로운 대규모 언어 모델(LLM)을 학습시킨다

LLM 기반 애플리케이션 개발을 위해 다양한 구성 요소를 연결한다

무료로 상용 LLM에 접근할 수 있도록 한다

AI 모델의 성능을 벤치마킹한다

답변 1

제이쓴

지식공유자

안녕하세요! 좋은 질문 감사합니다.

말씀하신 내용도 맞고, 일반적으로는 서비스 하고자 하는 주제와 관련 없는 내용들 을 safety로 거르는게 좋습니다. 예를들어 사내 서비를 운영한다면, 회사에 대해 부정적인 답변을 내고자 프롬프트로 공격을 한다거나, 아예 서비스와 관련 없는 질문들을 해서 토큰을 낭비하는 것을 막는 것입니다.

개발 까마귀

질문자

오 그러면 부정적인 답변인지 아닌지 체크하는 체인이 있는게 LangGraph에 rewrite, generate 부분이랑 비슷하네요. 이해했습니다 ㅎㅎ

개발 까마귀

작성한 질문수

전체 Q&A

질문하기