Safety 이해
84
投稿した質問数 23
안녕하세요 Safety 체인에 대해서 이해가 잘 안가서요.
예를들어 "독도는 누구땅이냐?"는 질문으로 하고 AI가 "독도는 한국땅"이다라는 응답을 했을때 해당 답변이 할루시네이션인지 아닌지를 검증하기 위한 "독도는 한국땅이 맞아 맞으면: Yes, 틀리면: No 로 대답해줘" 라는 Safety 질문을 만들고 그거를 체인으로 연결시키라는걸로 이해했는데 맞을까요?
回答 1
1
안녕하세요! 좋은 질문 감사합니다.
말씀하신 내용도 맞고, 일반적으로는 서비스 하고자 하는 주제와 관련 없는 내용들 을 safety로 거르는게 좋습니다. 예를들어 사내 서비를 운영한다면, 회사에 대해 부정적인 답변을 내고자 프롬프트로 공격을 한다거나, 아예 서비스와 관련 없는 질문들을 해서 토큰을 낭비하는 것을 막는 것입니다.
마크다운을 텍스트 파일로 변환하기
0
12
1
18강 smithery 를 이용한 mcp 실습(업데이트 요청)
0
17
1
guardrails 부분도 현재버전과 약간 다릅니다.
0
18
1
smithery ai 언제 업데이트 되나요?
0
17
1
무료할당량 사용하는데 문제가 생겼습니다.
0
21
1
안녕하세요! 질문이 있습니다.
0
53
2
'팀 단위 AI 업무 혁신' 자문 관련하여 문의드리고자 합니다. (연락처 요청)
0
75
1
🚨 OpenAI 유료계정인데 할당량 초과인 경우!!
0
95
2
ollama 같은 모델 상이 답변
0
78
2
도서, 그리고 로드맵 강의 순서
0
90
2
RAG와 MCP의 차이가 조금 헷갈립니다
0
613
2
첫번째 강의 화면과 설명이 안 맞는 거 같아요
0
111
1
JsonOutputParser 질문입니다
0
83
2
RAG 강의 안듣고 AGENT 강의 먼저 들어도 되나요?
0
158
1
openai 사용하면서부터 할당량 초과했다고 나오네요.
1
382
2
input key가 여러개인 경우 RunnablePassThrough를 쓰는 이유가 궁금합니다.
0
78
1
가상환경 설정
-2
208
6
ram 용량
0
119
2
강의 순서 질문
0
163
1
Safety prompt에 대한 질문이 있습니다
0
124
2
딥시크
0
163
1
JsonOutputParser
0
145
1
vscode에서 환경 설정하는 데 어려움이 있습니다
0
374
2
Template 사용에 관해 질문 있습니다.
0
211
2