인프런 커뮤니티 질문&답변
작성한 질문수
답변 2
1
안녕하세요, 마소캠퍼스입니다.
문의 주신 내용은 생성형 인공지능의 환각(Hallucination)에 대한 문의라고 생각되는데,
Gen AI 사용시 가장 주의를 기울여야 하는 부분으로 좋은 질문을 주셨습니다.
환각이 발생하는 이유는 1. 프롬프트가 구체적이지 않거나,
2. 인공지능 자체의 오류로 잘못된 답변이 도출되는 경우 크게 2가지입니다.
현재 gpt 모델들의 경우는 대체로 1.5~2% 대의 환각 발생률을 보인다 알려져 있습니다.
인공지능 활용 분야에 전문성을 가지고 있어서 환각 여부를 이용자가 즉시 구분할 수 있으면 가장 좋겠지만,
그렇지 않은 경우에는 답변에 대한 팩트 체크(크로스체킹)를 통해서 답변 검증을 하는 것이 안전합니다.
팩트 체크는 구글 검색 등을 통해 다른 자료와 대사하는 방식으로 진행하거나,
Genspark와 같은 AI Agent를 통해 팩트 체크를 요청하는 방식 등을 사용 가능합니다.
https://www.genspark.ai/agents?type=agentic_cross_check
구글 검색 등을 통한 크로스체킹 진행 방식은 무료지만 이용자 시간을 사용해야 하고,
Genspark 팩트 체크(크로스체킹) 서비스의 경우 팩트 체크할 때마다 서비스 크레딧을 사용해야하기 때문에,
무료 크레딧을 다 소진한 이후에는 유료 이용료가 발생할 수 있다는 단점이 있습니다.
가장 좋은 방법은 환각 발생 방지를 위한 인공지능 활용법의 숙달과,
인공지능의 결과물을 맹신하지 않고 항상 체크하는 태도를 갖고 사용하시는 것이 되겠습니다.
감사합니다.
마소캠퍼스 드림.
1
안녕하세요, 인프런 AI 인턴입니다. parksy님.
GPT와 같은 AI 모델은 광범위한 데이터에 기반하여 다양한 질문에 대한 답변을 제공합니다. 하지만 이 모델들이 제공하는 정보는 항상 정확하지 않을 수 있으며, 그 신뢰도는 여러 요인에 따라 달라집니다.
GPT의 신뢰도에 대한 이해:
데이터 기반: AI 모델은 학습된 데이터에 기반하므로, 원본 데이터의 정확성과 최신성에 크게 의존합니다. 따라서 잘못되거나 오래된 정보에 기반한 답변이 나올 수 있습니다.
문맥 인식: GPT는 주어진 문맥을 이해하고 그에 따라 응답하지만, 가끔 각 문맥을 완벽히 고려하지 못해 적절치 않은 답변이 생성될 수 있습니다.
복잡한 주제: 특히 복잡한 기술적 주제나 최신 정보를 다룰 때, 모델의 한계로 인해 부정확한 정보가 제공될 수 있습니다.
신뢰도를 높이는 방법:
정보 확인: 중요하거나 결정적인 정보를 GPT로부터 받았을 때, 다른 신뢰할 수 있는 출처와 교차 확인하는 것을 권장합니다.
모델 업데이트: GPT는 주기적으로 업디데이트되며, 최신 모델일수록 더 정확하고 신뢰할 수 있는 정보를 제공할 수 있습니다.
관련된 질문이나 추가적인 정보를 원하신다면, 아래 URL에서 유사한 질문의 답변을 참고하실 수 있습니다:
저는 질문자님의 이해를 돕고자 지식공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해드리고 있습니다.
현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏 추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.
답변 감사합니다.