인프런 커뮤니티 질문&답변
작성한 질문수
그래프 구현 조언 부탁드립니다!
작성
·
9
0
안녕하십니까! 강사님! 항상 질문에 대한 답변을 잘 해주심에 감사드립니다!
목표는 학교 정보 챗봇이고
강사님의 강의 수강을 바탕으로 그래프 구현해보고 있습니다.
현재 에이전트로는
1) 웹 크롤링 하고 임베딩 시킨 정보를 바탕으로
답변해주는 에이전트(학사일정, 장학금, 휴학 등)
2) 의도와 다른 질문이 왔을 때 답변해주는 기본 llm
현재 이렇게 있습니다 여기다가 에이전트를 하나 더 추가해서 멀티 에이전트로 라우팅해서 사용하거나 툴콜링 기법을 연습해보려 하는데 추가 계획중인 에이전트는 다음과 같습니다.
3) 웹 사이트 공지사항에 대한 정보를 기반으로 답변해주는 에이전트
공지사항은 실시간성과 특정 기간에 대한 정보가 강하기 때문에 에이전트를 분리해야한다고 생각했습니다.
위의 해당 내용을 구현하기 위해서는 공지사항 크롤링 자동화 파이프라인을 구축한 후 이를 실시간으로 계속 임베딩을 시켜야할지 아니면 임베딩 기법이 아닌 다른 방법으로 구현하는게 좋을지에 대한 의문이 있습니다. 경험이 많으신 강사님께서의 노하우가 궁금합니다!
또한 위처럼 구현하게 될 경우 1번 에이전트와 3번 에이전트를 라우터 할때 시스템 프롬포트가 애매하다고 생각됩니다.
강사님이라면 어떻게 하실지 노하우에 대한 조언을 듣고 싶습니다!!
지식이 부족해서 깔끔하게 질문을 드리지 못함에 죄송합니다..! 감사합니다
답변 1
0
안녕하세요, 인프런 AI 인턴입니다. Jh P님!
현재 학교 정보 챗봇 프로젝트의 목표에 맞춰 에이전트를 구성하여 다양한 정보에 접근하는 방법에 대해 계획하고 계시군요. 주변 정보를 활용해 유의미한 응답을 제공하기 위해 여러 에이전트를 고려하고 있는 점이 인상적입니다.
1. 공지사항 크롤링 및 임베딩
공지사항의 특성을 살리기 위해 다음 방법을 고려해볼 수 있습니다:
실시간성 확보:
- 공지사항의 실시간성을 위해 일정 간격으로 크롤링 자동화 파이프라인을 구축하세요. 이를 통해 가장 최신 정보를 지속적으로 반영할 수 있습니다.
- 최신 공지사항 정보를 얻고 이를 임베딩하여 데이터베이스에 업데이트하는 방식이 유리할 수 있습니다.
- 공지사항의 실시간성을 위해 일정 간격으로 크롤링 자동화 파이프라인을 구축하세요. 이를 통해 가장 최신 정보를 지속적으로 반영할 수 있습니다.
임베딩 대안:
- 공지사항의 변동이 빈번할 경우, NLP 기술을 활용한 정보 요약 및 구조화를 통해 실시간 응답을 할 수 있는 방안을 마련할 수 있습니다.
- 공지사항 정보를 요약하거나 태그로 구분하여 구조화해 두는 방식도 고려해 보세요.
- 공지사항의 변동이 빈번할 경우, NLP 기술을 활용한 정보 요약 및 구조화를 통해 실시간 응답을 할 수 있는 방안을 마련할 수 있습니다.
2. 멀티 에이전트 라우팅
멀티 에이전트를 효율적으로 운영하기 위한 전략은 다음과 같습니다:
시스템 프롬프트 구성:
- 각 에이전트의 역할과 범위를 명확히 정의하여 프롬프트를 구성하는 것이 중요합니다.
- 라우터를 통해 초기 질문을 분류하고, 질문의 주제에 따라 적절한 에이전트로 전달되도록 설정합니다.
- 상황에 따라 통합 에이전트가 역할을 종합하여 판단할 수 있도록 설계하는 것도 방법입니다.
- 각 에이전트의 역할과 범위를 명확히 정의하여 프롬프트를 구성하는 것이 중요합니다.
프롬프트 예시:
- “이 질문은 공지사항 관련인가?“와 같은 기본적인 질문 분류 체계를 활용하세요.
- 공지사항과 일반 정보(학사일정 등)를 명확히 구분할 수 있는 트리거 키워드를 설정하면 라우팅이 효율적입니다.
- “이 질문은 공지사항 관련인가?“와 같은 기본적인 질문 분류 체계를 활용하세요.
Jh P님께서 계획 중인 프로젝트에 대한 유사한 논의는 RAG를 활용한 에이전트 개발 강의에서 유사한 고민과 해결책을 엿볼 수 있습니다.
저는 질문자님의 이해를 돕고자 지식공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해드리고 있습니다. 현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏 추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.