Agent 성능 관련 문의
94
작성한 질문수 1
강의 잘 듣고 있습니다.
현재 문서를 읽어 agent로 구현하는 학습까지 완료했는데요(17강)
gpt 4.0을 활용하여 agent를 구현해 질문을 하는 것과, chatgpt 웹을 켜서 문서를 올려 질문하는 것에 어떤 차이가 있나요?
보안의 차이나 프롬프트를 잘쓰면 성능이 웹gpt보다 좋아지나요? 주어진 서비스를 사용하지 않고 이걸 구현해야하는지가 명확하게 이해가 안되서요.
감사합니다.
답변 2
1
안녕하세요! 좋은 질문 감사합니다.
ChatGPT에 pdf와 같은 파일을 업로드해서 분석한다면 OpenAI에서 제공하는 다양한 pdf parsing과 분석 툴들을 사용할 수 있다는 장점이 있습니다(어떻게 구현이 되었는지 알 수는 없지만) 직접 유사한 기능을 개발한다면
pdf 파일 불러오기 -> pdf 파일 텍스트 파싱 -> pdf 텍스트 LLM 전달
과 같은 흐름을 직접 구현하면 비슷한 효과를 얻을 수 있을거라고 생각합니다.
저는 개인적으로 가급적이면 있는 도구들을 활용하는게 좋다고 생각합니다. 만약 회사 정책에 위반이 되는게 아니라면, ChatGPT를 활용해서 pdf나 엑셀을 분석하는 편이 더 좋다고 생각합니다. 아마 그들은 ChatGPT에만 엄청 많은 수의 엔지니어들을 할당해서 개발중일거라, 우리가 직접 개발하는 것보다 훨씬 더 빠르고 다양한 기능들을 제공할 수 있을거라고 생각하기 때문입니다.
다만 말씀하신 보안 문제가 있을 수 있고, 프롬프트를 작성해서 우리 회사나 내가 처리하는 문서에 대한 context를 조금 더 자세히 제공할 수 있다면 ChatGPT를 쓰는 것보다 직접 개발하는 것이 LLM에게 문맥을 더 자세히 제공하는 측면에서는 유리하다고 생각합니다. 인프라를 직접 관리하면서 서비스를 운영하는 것과 누군가가 제공하는 서비스를 사용하는 유지보수도 고려가 되어야겠지만요.
0
답변 주신것에서 질문이 있습니다. 말씀해주신 보안문제라면, 직접 서버를 구축하고 서버에 LLM모델을 받아서 직접 구현하는것을 의미하는걸까요?
"ChatGPT를 쓰는 것보다 직접 개발하는 것이 LLM에게 문맥을 더 자세히 제공하는 측면에서는 유리"
이 부분은 이해했는데, 웹으로 chat gpt를 사용하여 문서를 벡터화하는 방식과 LLM에서 토큰으로 호출해서 문서를 벡터화하는방식이 보안측면에서는 동일한것이 아닌가 질문드립니다.
감사합니다.
1
네네 이해하신 바가 맞습니다. 만약 보안이 우려된다면 직접 서버를 구축하시는 편이 좋습니다. 그리고 ChatGPT의 약관과 API의 약관이 달라서 정책을 한번 비교해보시면 좋을 것 같아요.
추가로 용어가 혼동될 수 있어서 한번 정의를 하자면, 문서를 벡터화하는 것은 임베딩 모델을 활용해서 벡터화를 하는 것이지, LLM의 tokenization과는 다릅니다. 조금더 자세하게 설명하는 블로그 링크를 전달 드립니다
n8n으로 context를 고려한 이메일 답장 드래프트 작성 봇 생성 강의
0
40
2
Streamlit 사용하기 위한 과정 진행 중 email_agent.py 작성 후 실행 부분 오류
0
47
2
구글 드라이브 연결 에러
0
53
2
웹훅 설정 시
0
33
2
배포과정 금액이 상관 없다면 N8N 월간 비용으로 결제하고 수업따라가도 괜찮을까요?
0
72
2
Basic LLM Chain 에서 모델 추가 시 API 키
0
52
2
이해가 안됩니다.
0
40
1
트리거의 Ignore SSL Issues 옵션
0
46
1
Gmail 트리거 생성 후 fetch 테스트 시 에러
0
53
2
야매버전 마지막에서 막힙니다 ㅠ
0
65
2
호스팅영역 질문
0
49
2
route 53 오류메시지
0
56
2
docker 설치 후
0
61
2
스크랩한 뉴스를 이메일로 보내는 n8n 봇
0
81
2
이메일 답장 드래프트 작성 봇 생성에서 에러
0
69
2
n8n Self-signed Certificate in certificate chain 이슈
0
128
2
Notion 강의 자료가 보이지 않습니다.
0
86
1
24강 코드리뷰 에이전트 질문
0
83
2
10강 google sheet 관련 질문
0
70
1
19강에 있는 postgres account 계정 로그인이 안돼요
0
88
2
이메일 답장 드래프트 작성 개선 관련
0
82
1
섹션 3 : 이메일 작성 도우미 질문
0
81
2
LangGraph로 구현한 봇을 n8n으로 전환 관련 질문
0
90
2
source 실행 부분에서 저는 bin 폴더가 없어요..
0
72
2