teontae

오 답변 감사합니다.그러면 스트리밍 말고, <code>클라이언트 <---웹소켓---> 백엔드 서버 <---SSE--- LLM 서버</code> 처럼 LLM 서버가 백엔드 서버로 sse를 통해 데이터를 잘게 쪼개서 계속 보내주고, 백엔드 서버에서 클라이언트로 계속 메시지를 보내고 있는 상황일 때는 괜찮을까요? (ex. chat gpt나 claude 채팅방에 여러 명의 유저가 들어와 있는 상황)이 경우에 redis pub/sub에 데이터 송수신이 많아질 것으로 예상되어 고민이 되더라고요!

teontae

投稿