GPT api 토큰 제한
1735
1 asked
안녕하세요. 강의 잘 듣고 있습니다.
한 가지 궁금한 것이 있는데,
SQL agent로 많은 데이터셋을 넣어주면서 질문을 할 경우 GPT4 api 를 사용했을 때 금방 하루 토큰을 다 사용했다고 뜹니다.
개인 api는 하루용 토큰이 이렇게 금방 소진 되어 테스트를 많이 해볼 수가 없어서요,
그러면 기업용으로 api를 구매하면 하루에 사용 가능한 토큰에 제한이 없는지 궁금합니다.
Answer 1
0
안녕하세요~. 반갑습니다.
현재 OpenAI 정책상 결제 금액에 따라서 계정의 티어(tier)를 나누고 티어에 따라서 모델의 할당량을 다르게 설정하고 있습니다.
티어를 올리고 싶으시다면 티어 충족 금액을 결제한뒤 n일이 지나면 티어가 올라가고 할당량을 늘릴 수 있습니다.
티어와 티어별 모델 할당량에 대한 자세한 내용은 아래 문서를 참조하세요.
https://platform.openai.com/docs/guides/rate-limits/usage-tiers?context=tier-free
좋은 하루되세요.
감사합니다.
혹시 로컬llm을 활용해서 RAG를 구현하는 예제도 한번 올려주시면 안될까요?
0
945
2
검증 방법 질문입니다.
0
150
2
with_structured_output 함수
0
796
1
Quickstart 오류 - Query Analysis Quickstart 기초 예제 실습
0
257
2
docStore
0
136
0
langchain.schema가 무슨 역할을 하는지요?
0
489
2
라마 3(Llama 3)로 AI 텍스트 번역하기 실행 오류.
0
974
2
SQL 에이전트 제작 예제 프로그램과 관련하여 질문 드립니다.
0
207
2
하이퍼클로바 X 랭체인
0
391
2
ConversationSummaryBufferMemory의 max_token_limit
0
320
2
SelfQueryRetriever 사용시
0
310
2
!pip install langchain_community 문장이 필요할 것같아요(강의 2,4)
0
1261
2
memory+ Retriever +llm 질문있습니다.
0
228
1
self query retriever 한글
0
453
2
selfqueryRetriever에서 contain,like 필터링 오류문제
1
336
2
상품추천GPT에서 데이터를 바꿔 사용하는데 오류나는 이슈
1
253
2
Rag 사용시 전혀 관계없는 데이터를 가져오는 이슈
0
1293
2
bert vs gpt 의 혼란스러운 점
0
565
2
chromadb 용량
0
555
2
RAG에서 Generator으로 어떤 데이터가 들어가는지 볼 수 있는 방법이 있나요?
0
407
1
RAG 실습 강의에서 template 문구 관련해 질문이 있습니다.
0
442
2
RAG의 데이터 소스로 RDB 사용 시 어떤 로더를 사용해야 하나요?
0
2319
2
db.delete_collection() db가 정의되어 있지 않아 문의드립니다.
0
175
1
Data Loader 관해서
0
303
2