inflearn logo
강의

강의

N
챌린지

챌린지

멘토링

멘토링

N
클립

클립

로드맵

로드맵

지식공유

한시간으로 끝내는 LangChain 기본기

지금까지 배운 내용 총정리 (feat. 프롬프트 꿀팁 살짝)

Safety 이해

88

개발 까마귀

작성한 질문수 23

0

안녕하세요 Safety 체인에 대해서 이해가 잘 안가서요.

예를들어 "독도는 누구땅이냐?"는 질문으로 하고 AI가 "독도는 한국땅"이다라는 응답을 했을때 해당 답변이 할루시네이션인지 아닌지를 검증하기 위한 "독도는 한국땅이 맞아 맞으면: Yes, 틀리면: No 로 대답해줘" 라는 Safety 질문을 만들고 그거를 체인으로 연결시키라는걸로 이해했는데 맞을까요?

프롬프트엔지니어링 llm langchain 카카오공채-개발

답변 1

1

제이쓴

안녕하세요! 좋은 질문 감사합니다.

말씀하신 내용도 맞고, 일반적으로는 서비스 하고자 하는 주제와 관련 없는 내용들 을 safety로 거르는게 좋습니다. 예를들어 사내 서비를 운영한다면, 회사에 대해 부정적인 답변을 내고자 프롬프트로 공격을 한다거나, 아예 서비스와 관련 없는 질문들을 해서 토큰을 낭비하는 것을 막는 것입니다.

0

개발 까마귀

오 그러면 부정적인 답변인지 아닌지 체크하는 체인이 있는게 LangGraph에 rewrite, generate 부분이랑 비슷하네요. 이해했습니다 ㅎㅎ

퀴즈가 강의 주제와 맞지 않아요.

0

7

0

2.3 Agentic RAG 관련 질문이 있습니다.

0

11

1

dotenv, langchain_community 로드가 되지 않습니다.

0

21

1

FMP API 유료

1

25

1

SSL 발급할때 HTTP로 진행하는 이유가 궁금합니다.

0

33

2

안녕하세요! 질문이 있습니다.

0

75

2

'팀 단위 AI 업무 혁신' 자문 관련하여 문의드리고자 합니다. (연락처 요청)

0

93

1

🚨 OpenAI 유료계정인데 할당량 초과인 경우!!

0

119

2

ollama 같은 모델 상이 답변

0

93

2

도서, 그리고 로드맵 강의 순서

0

105

2

RAG와 MCP의 차이가 조금 헷갈립니다

0

766

2

첫번째 강의 화면과 설명이 안 맞는 거 같아요

0

123

1

JsonOutputParser 질문입니다

0

93

2

RAG 강의 안듣고 AGENT 강의 먼저 들어도 되나요?

0

174

1

openai 사용하면서부터 할당량 초과했다고 나오네요.

1

455

2

input key가 여러개인 경우 RunnablePassThrough를 쓰는 이유가 궁금합니다.

0

93

1

가상환경 설정

-2

237

6

ram 용량

0

130

2

강의 순서 질문

0

177

1

Safety prompt에 대한 질문이 있습니다

0

134

2

딥시크

0

177

1

JsonOutputParser

0

154

1

vscode에서 환경 설정하는 데 어려움이 있습니다

0

392

2

Template 사용에 관해 질문 있습니다.

0

221

2