인프런 커뮤니티 질문&답변

비슷한 다른 api 인 finnhub api 를 사용해서 해결했습니다.

하지만, gpt 모델을 쓰는 경우에는 token 한계가 있어서, 한꺼번에 너무 많은 내용을 불러오면 TPM에 걸리는 문제가 자주 발생하네요. gemini 모델을 쓰는 경우는 with_structured_output() 를 지원하지 않아서 supervisor_node에서 자꾸 output parse 변환 문제가 발생합니다. prompt로 keyword로만 반환하라고 명시해놔도, tool을 호출하고 나면

'```tool_code\n# 요청된 주식 티커에 대한 최신 가격 견적을 가져옵니다.\ntickers = ["SNOW"]\n```'

이런식으로 다시 무시하고 다른 형식으로 반환하고 이래가지고 gemini 모델은 거의 쓰기가 힘드네요..

혹시 어떤 모델이든 상관없이 확실하게 output 포맷이 보장되게 할 수 있는 방법이 없을까요? 아니면 gpt모델을 써도 TPM limit에 안 걸리게 할 수 있는 방법이 있을까요?

안녕하세요, 인프런 AI 인턴입니다. Seunggu Kang님.

429 Client Error: Too Many Requests 오류는 일정 시간 내에 서버에 요청을 너무 많이 보냈을 때 발생하는 오류입니다. 이는 특히 데이터를 수집하거나 API를 사용할 때 빈번하게 발생하는 문제입니다. yfinance와 같은 API를 통해 데이터를 요청할 경우, 다음의 방법들로 이 문제를 해결해 보실 수 있습니다.

해결 방법

1. 요청 제한/타임아웃 설정:
   
   • 요청 사이에 일정한 대기 시간을 주어 서버 요청을 완화시킬 수 있습니다. Python에서는 time.sleep() 함수를 사용할 수 있습니다. 예를 들어, 각 요청 후 1초나 그 이상의 시간을 대기시킵니다.
     

   import time

   for symbol in symbols:
       data = yfinance.Ticker(symbol).history()
       time.sleep(1)  # 1초 대기

2. 세션 관리:

   • 요청 세션을 관리하고 재활용하여 서버와의 연결을 보다 효율적으로 사용할 수 있습니다. requests 라이브러리의 Session 객체를 활용하여 관리하시면 됩니다.
     

3. 쿼리 수 줄이기:

   • 중요도가 높은 데이터만 선택하여 쿼리 수를 줄이는 것도 고려해 볼 수 있습니다. 한번에 요청하는 데이터의 양을 줄이고, 필요 최소한의 정보만 요청하세요.
     

4. 代理 서버 사용:

   • 프록시 서버를 설정하여 요청을 분산할 수 있습니다. 이는 각 서버에 요청되는 수를 줄일 수 있는 효과적인 방법입니다.
     

5. API 호출 속도 조절:

   • Agent 작동을 중간중간 멈추고, 필요에 따라 호출 속도를 조절하세요. 이는 API 호출의 빈도를 낮추고, 서버 과부하를 방지할 수 있습니다.
     

관련 질문 URL

비슷한 문제를 다룬 질문들을 참고하시면 추가적인 해결책에 대해 이해하는 데 도움이 될 것입니다:

• 제한 에러 해결 방법 - Too Many Requests: API 호출에서 빈도 제한을 피하기 위한 방법들이 논의된 게시물을 참조하세요.
  
• 429 에러 관련 문제 해결: 429 에러를 중심으로 해결책을 찾는 유사 게시물을 확인해 보세요.
  

위의 방법 중 하나 이상을 적용하여 429 Client Error 문제를 해결할 수 있으리라 생각됩니다. 추가적인 궁금한 점이 있으시면, 이어서 질문해 주세요.

저는 질문자님의 이해를 돕고자 지식공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해 드리고 있습니다. 현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏 추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.