inflearn logo
강의

Khóa học

Chia sẻ kiến thức

Nền tảng cơ bản về LangChain hoàn thành trong một giờ

LLM được sử dụng để tạo câu trả lời như thế nào

openai 사용하면서부터 할당량 초과했다고 나오네요.

Đã giải quyết

383

wlghsp3420

38 câu hỏi đã được viết

1

RateLimitError: Error code: 429 - {'error': {'message': 'You exceeded your current quota, please check your plan and billing details. For more information on this error, read the docs: https://platform.openai.com/docs/guides/error-codes/api-errors.', 'type': 'insufficient_quota', 'param': None, 'code': 'insufficient_quota'}}

무료계정이라 할당량 초과로 뜨는 거 같은데요.

프롬프트엔지니어링 llm langchain 카카오공채-개발

Câu trả lời 2

1

jasonkang

만약 한번도 충전을 하지 않았다면, 결제할 카드를 등록하고 $5정도 결제해야 OpenAI API를 활용할 수 있습니다.

말씀하신 문제로 인해 강의에서는 비용을 지불해야하는 LLM대신 Ollama를 활용하고 있습니다.

0

communityai8509

안녕하세요, 인프런 AI 인턴입니다. 아라레님.

현재 ‘RateLimitError’는 OpenAI API 사용 중 할당량을 초과했을 때 발생하는 오류입니다. 무료 계정을 사용 중이라면 할당된 사용량이나 토큰 제한이 낮아 쉽게 초과될 수 있습니다. 이 문제를 해결하기 위한 몇 가지 고려 사항을 안내드립니다.

해결책

  1. 계정 상태 확인

    • 무료 계정의 경우 제공되는 API 요청 한도가 매우 낮을 수 있으므로, 개인 사용량을 주기적으로 확인하시고 필요한 경우 유료 플랜을 고려해보세요.
  2. 요청 최적화

    • 요청을 최소화하고 요청당 토큰 사용을 줄이는 방법을 찾는 것이 중요합니다. 예를 들어, 프롬프트의 길이를 줄이거나 필요한 데이터만 요청하는 방식으로 사용량을 최적화할 수 있습니다.
  3. 요금제 업그레이드

    • 요청이 꾸준히 많아질 것으로 예상되는 경우, OpenAI의 유료 플랜으로 전환하는 것도 좋은 방법입니다. 유료 플랜으로 업그레이드하여 더 높은 할당량 및 지원을 받을 수 있습니다.
  4. API 요청 계획

    • 대량의 요청이 필요한 경우, 요청 간 시간 간격을 두어 사용량을 조절하거나 초과 시 자동으로 대기 후 재시도하는 백오프(backoff) 전략을 적용할 수 있습니다.

문제가 지속되는 경우, 추가적인 토큰 사용 계획이나 비용 관리 측면에서 더 나은 전략을 수립해 보세요.

관련자료

저는 질문자님의 이해를 돕고자 지식공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해드리고 있습니다.
현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏
추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.

강의 내 자료는 별도로 제공하지 않나요?

0

1

0

마크다운을 텍스트 파일로 변환하기

0

20

1

18강 smithery 를 이용한 mcp 실습(업데이트 요청)

0

19

1

guardrails 부분도 현재버전과 약간 다릅니다.

0

22

1

smithery ai 언제 업데이트 되나요?

0

17

1

안녕하세요! 질문이 있습니다.

0

53

2

'팀 단위 AI 업무 혁신' 자문 관련하여 문의드리고자 합니다. (연락처 요청)

0

76

1

🚨 OpenAI 유료계정인데 할당량 초과인 경우!!

0

96

2

ollama 같은 모델 상이 답변

0

79

2

도서, 그리고 로드맵 강의 순서

0

90

2

RAG와 MCP의 차이가 조금 헷갈립니다

0

613

2

첫번째 강의 화면과 설명이 안 맞는 거 같아요

0

111

1

JsonOutputParser 질문입니다

0

83

2

RAG 강의 안듣고 AGENT 강의 먼저 들어도 되나요?

0

159

1

Safety 이해

0

84

1

input key가 여러개인 경우 RunnablePassThrough를 쓰는 이유가 궁금합니다.

0

78

1

가상환경 설정

-2

209

6

ram 용량

0

119

2

강의 순서 질문

0

163

1

Safety prompt에 대한 질문이 있습니다

0

125

2

딥시크

0

163

1

JsonOutputParser

0

145

1

vscode에서 환경 설정하는 데 어려움이 있습니다

0

374

2

Template 사용에 관해 질문 있습니다.

0

211

2