LLM 서비스의 신뢰성
1
작성한 질문수 10
안녕하세요, 좋은 강의 잘 듣고 있습니다.
LLM 서비스의 핵심 목표 중 신뢰성의 핵심 키워드로 정확성, 일관성, 안정성 세 가지를 말씀해 주셨는데요, 이 중 정확성과 일관성이 각각 어떤 의미인지 좀 더 자세히 여쭤보고 싶습니다.
특히 앞에서 설명해 주신 것처럼 LLM은 확률에 기반을 두기 때문에 응답이 매번 바뀔 수밖에 없는데, 이런 전제 위에서 궁금한 점이 두 가지 있습니다.
일관성을 실제로 어떻게 구현할 수 있는지 궁금합니다. 실무에서 주로 쓰이는 방법이 있을까요?
일관성을 판단할 수 있는 지표나 기준, 기법이 있는지 궁금합니다. 신뢰성 지표로 Hallucination Rate, Faithfulness, Context Precision/Recall을 소개해 주셨는데, 이들은 주로 정확성 쪽에 가까워 보여서 일관성은 어떤 방식으로 측정하는지 궁금합니다.
감사합니다.
답변 0
라마로 모델 스위칭 하고, 인사했는데.. 아래 처럼 에러 메시지가 떴어요.
0
1
0
MCP 정의가 잘못되어 있음 (Chapter2)
0
13
1
스케쥴 설정 질문
0
20
2
13. (App 2) 기본기 훈련 에서
0
14
1
2. 어떤 도구를 사용하는 것이 가장 유리할까? 강의 중
0
16
1
Inner class로 Config를 지정하는 이유
0
13
1
11차시 Antigravity IDE 설치 후
0
19
1
처음 에이전트 설정을 잘못 했을 경우 수정 하는 방법
0
16
1
[13번 강의] ChatInterface에 PDF 렌더링이 안되는 이슈 공유
0
14
1
systemd 셋팅
0
18
1
워킹플로우 제목 생성 오류와 키워드 미생성 오류
0
13
1
에이전트 에러
0
20
1
커스텀 에이전트 생성하기
0
11
1
mcp 연결이 안 돼요
0
19
2
채팅플로우 실행시 진전이 없고 비슷한 류의 답변만 나와요
0
23
4
〈클로드 코드와 멀티 에이전트로 내 일상을 모두 자동화하기〉 강의 전자책 관련 문의
0
12
1
62번 영상 화면의 글씨가 또렷하지 않아요
0
30
1
혹시 Windows에서 Docker Desktop을 설치하는 이유가
0
38
1
클로드 코드 시작하기
0
25
1
맥북
0
31
1
수업 자료 문의
0
20
1
url 연결은 가능한가요?
0
22
1
ide에서 명령어를 넣을때 한줄 후 엔터를 치면 넘어가버리는데 다음 명령어는 어떻게 하나요?
0
31
1
gws auth setup 승인오류
0
48
1