Inflearn Community Q&A

asked

Building an Unreal Agent from Scratch (Liu)

Context Window [Concept]

토큰 사용량 및 인증 관련해서 질문드립니다.

Resolved

Written on

101

강의를 보고 직접 만든 에이전트와 Claude Code 각각 같은 질문을 했을 때 직접 만든 에이전트가 좀 더 토큰을 많이 사용하는 것 같았는데요.

강의 에서는 Context Window를 줄여야 토큰 사용량이 줄어든다고 하셨었는데 그러면 일정 토큰을 사용한다면 직접 요약본을 만들어서 Messages에 덮거나 하는 추가적인 최적화같은 걸 해줘야 하는 걸까요?

그리고 4월 4일 부로 Anthropic 정책이 바뀌었는데 그러면 개인 에이전트를 만들어 쓸려면 무조건 API Key 방식으로 진행을 해야 하는 걸까요?

C#unreal-engineweb-api인공지능(ai)ai-agent

Quiz

What are the main advantages of the AI response streaming method?

Reduce the number of API calls

Deliver faster initial responses

Full guarantee of response content

Simplifying developer processing

Answer 2

Questioner

아하...답변 감사합니다!

Instructor

아마 ContextWindow 챕터에서 질문하신거보면 PromptCaching은 아직 진행하지 않으셔서 토큰량이 많이들거에요.
그리고 요약본의 경우 커맨드에서 compact라는 단원에서 배우게 되는데 한계가 좀 명확해서 강제성을 부여하기는 좀 위험합니다.
네 이제는 API만 가능합니다.

Questioner

좋은 답변 감사합니다!

추가적으로 그러면 아직 까진 문제 없이 OAuth 인증을 통해 동작이 되는데 이건 추후 제재 대상이 될 수 있는 걸까요?

Instructor

4월 17일까지는 일단 유예 기간 입니다. 그 이후에는 제재 대상입니다 ㅠ

asked