inflearn logo
강의

강의

N
챌린지

챌린지

멘토링

멘토링

N
클립

클립

로드맵

로드맵

지식공유

한시간으로 끝내는 LangChain 기본기

지금까지 배운 내용 총정리 (feat. 프롬프트 꿀팁 살짝)

Safety 이해

88

개발 까마귀

작성한 질문수 23

0

안녕하세요 Safety 체인에 대해서 이해가 잘 안가서요.

예를들어 "독도는 누구땅이냐?"는 질문으로 하고 AI가 "독도는 한국땅"이다라는 응답을 했을때 해당 답변이 할루시네이션인지 아닌지를 검증하기 위한 "독도는 한국땅이 맞아 맞으면: Yes, 틀리면: No 로 대답해줘" 라는 Safety 질문을 만들고 그거를 체인으로 연결시키라는걸로 이해했는데 맞을까요?

프롬프트엔지니어링 llm langchain 카카오공채-개발

답변 1

1

제이쓴

안녕하세요! 좋은 질문 감사합니다.

말씀하신 내용도 맞고, 일반적으로는 서비스 하고자 하는 주제와 관련 없는 내용들 을 safety로 거르는게 좋습니다. 예를들어 사내 서비를 운영한다면, 회사에 대해 부정적인 답변을 내고자 프롬프트로 공격을 한다거나, 아예 서비스와 관련 없는 질문들을 해서 토큰을 낭비하는 것을 막는 것입니다.

0

개발 까마귀

오 그러면 부정적인 답변인지 아닌지 체크하는 체인이 있는게 LangGraph에 rewrite, generate 부분이랑 비슷하네요. 이해했습니다 ㅎㅎ

SSL 발급할때 HTTP로 진행하는 이유가 궁금합니다.

0

7

2

혹시 강의에서 사용하시는 손글씨 도구? 프로그램이 뭔가요??

0

4

0

9-3 강 영상 짤림.

0

8

1

실습2_GPT기반_온라인_댓글_분류_자동.ipynb 파일 오류 있습니다.

0

12

1

선생님 질문이 있어요

0

28

2

안녕하세요! 질문이 있습니다.

0

75

2

'팀 단위 AI 업무 혁신' 자문 관련하여 문의드리고자 합니다. (연락처 요청)

0

92

1

🚨 OpenAI 유료계정인데 할당량 초과인 경우!!

0

118

2

ollama 같은 모델 상이 답변

0

91

2

도서, 그리고 로드맵 강의 순서

0

102

2

RAG와 MCP의 차이가 조금 헷갈립니다

0

748

2

첫번째 강의 화면과 설명이 안 맞는 거 같아요

0

122

1

JsonOutputParser 질문입니다

0

93

2

RAG 강의 안듣고 AGENT 강의 먼저 들어도 되나요?

0

173

1

openai 사용하면서부터 할당량 초과했다고 나오네요.

1

448

2

input key가 여러개인 경우 RunnablePassThrough를 쓰는 이유가 궁금합니다.

0

91

1

가상환경 설정

-2

235

6

ram 용량

0

128

2

강의 순서 질문

0

177

1

Safety prompt에 대한 질문이 있습니다

0

134

2

딥시크

0

175

1

JsonOutputParser

0

154

1

vscode에서 환경 설정하는 데 어려움이 있습니다

0

391

2

Template 사용에 관해 질문 있습니다.

0

221

2