인프런 커뮤니티 질문&답변
작성한 질문수
이메일 답장 드래프트 작성 개선 관련
작성
·
34
0
현재 강의에서는 이메일 답장을 작성한 후, 해당 내용을 개선하고 싶다면 별도의 AI chatbot에 다시 입력해 개선 방향을 받는 흐름으로 설명해주셨습니다.
이와 관련해 궁금한 점이 있습니다.
혹시 이 개선 과정을 별도의 흐름으로 나누지 않고, 하나의 플로우에 통합하는 것도 가능한가요?
예를 들어, 첫 번째 에이전트가 작성한 답변을 다음 AI 에이전트에게 넘기고, 그 에이전트는 지금까지의 답장 히스토리, 작성 형식, 룰 등을 컨텍스트로 받아 리뷰 및 개선을 수행하는 식입니다.
혹은, 아예 처음 답장을 작성하는 노드에 가능한 한 많은 컨텍스트(이전 답장 기록, 형식, 작성 룰 등)를 함께 주고, 더 정교한 프롬프트로 한 번에 고품질의 답장을 생성하는 방식이 더 나은 접근일까요?
두 방식 중 어떤 전략이 더 효과적인지, 혹은 추천하시는 방향이 있으신지 궁금합니다.
답변 1
0
안녕하세요! 좋은 질문 감사합니다. 저는 전자의 방식을 선호합니다.
다만 이건 엔지니어들마다 생각이 달라서 의사결정의 영역이라고 생각합니다. 강의에서 말씀 드리는 것처럼, 저는 가급적이면 작은 단위로 작업을 쪼개서 진행하는 것이 가장 AI를 효율적으로 사용하는 방법이라고 생각합니다.
기술의 발전으로 모델이 조금 더 다양한 task를 수행할 수 있게 되면서 말씀하신 정교한 프롬프트로 한번에 좋은 결과물을 낼 수도 있겠지만, 만약 그렇지 못한 경우에는 어떤 부분에서 문제가 되는지 파악이 어렵다는 문제가 있습니다. 원하는 포맷으로 메일을 작성하지 못하는데는 질문해주신 내용을 기반으로 볼 때 다양한 이유가 있다고 생각하는데요
이전 답장 기록을 넣는 방식의 문제인지
작성 룰을 이해하지 못해서 인지
형식을 제대로 따르지 못하는 것인지
단순히 AI가 에러가 나는 것인지
처음 말씀하신 리뷰의 형식으로 진행을 하게 되면, 1번부터 4번까지 별도로 최적화를 하거나 다양한 시도를 통해서 디버깅이 가능한데, 한번에 큰 프롬프트를 사용하게 되면 디버깅이나 최적화가 어려워지는 이슈가 있습니다. 그리고 경험상 장황한 프롬프트에서 2번을 담당하는 영역을 수정하면 3번을 담당하는 영역이 안되고 그러다보면 반복만 계속하게되는 문제가 있었습니다. 물론 이 부분도 모델의 성능이 엄청 좋아지면 충분히 개선될 수 있는 영역이긴 합니다.
하지만 저는 모델이 아무리 좋아져도 거대한 프롬프트를 하나 사용하는 것은 지양하는 것이 좋다고 생각합니다. 특히 말씀드린 최적화의 영역을 고민해야 한다면 특히 업무를 작은 단위로 나누는 것이 좋을 것 같습니다. 다만 이건 제 개인적인 생각이고, 의견이 다른 분들도 있을거라 다양한 의견을 들어보시고 종합적으로 판단하시는 것을 추천 드립니다!