토큰 사용량 초과 시 agent 종료

Question

Agent teams에 대한 강의 잘 들었습니다. 제가 복잡한 프로젝트를 agent team을 만들어 진행을 하는데, pro plan이다보니 계속 사용량 한계에 도달하여 claude가 멈추게 됩니다. 다시 해당 세션을 열어 실행을 할 수는 있지만, team lead 외에 기존에 돌아가던 teammate agent들이 모두 종료되어 있어 다시 띄워야 하고 기존 컨텍스트를 잃어버린다는 문제를 겪고 있습니다. 이런 상황에 어떻게 사용하는 것이 적절한지 여쭙고 싶습니다. 혹은 제가 잘못 이해하고 사용하는 것인지도 궁금합니다.

짐코딩 · Answer

안녕하세요! 🙂 좋은 질문이에요. 두 가지를 나눠서 정확히 말씀드릴게요. 먼저 왜 토큰 한도가 memory 손실로 이어지는지부터요. 핵심은 teammate들이 디스크에 저장된 데이터가 아니라 "실행 중인 세션" 이라는 점이에요. 각 teammate는 자기 맥락을 실행 중인 메모리에 들고 있어요. Pro 요금제는 일정 시간 단위로 사용량 한도가 있어서, 한도에 도달하면 작업이 멈춥니다. 이때 실행 중이던 teammate 세션들도 함께 끊기고요. 그다음이 진짜 원인인데, /resume 이나 /rewind 로 세션을 다시 열어도 in-process teammate는 복원되지 않아요. 리드가 이미 사라진 teammate에게 메시지를 보내려 할 수 있고, 이럴 땐 새 teammate를 다시 spawn해야 합니다. 즉 "컨텍스트 창이 꽉 차서"가 아니라, 한도로 세션이 끊기면 실행 중이던 teammate가 종료되는데 이걸 되살리는 기능이 아직 없어서 매번 새로 띄우며 맥락을 잃는 거예요. 컨텍스트 창 문제와는 별개의 이야기입니다. 그리고 핵심 질문인 "근본적으로 agents가 종료되지 않게 하는 방법"은, 솔직하게 말씀드리면 현재로서는 없어요. 팀은 세션과 함께 종료되고, 일시정지·되감기·재개로 되살릴 수 없습니다. 아직 실험적 기능 이라 teammate 상태를 보존·복원하는 기능 자체가 구현돼 있지 않고, Anthropic도 정식화 시점을 밝히지 않았어요. 한도에 도달하는 것 자체를 막는 길은 결국 토큰 소모를 줄이거나 상위 요금제로 가는 방법뿐이라, 말씀하신 "토큰 절약이 아닌 근본 해결"은 지금 단계에선 존재하지 않는다고 보시는 게 정확합니다. 그래서 현실적인 방향은 "종료돼도 손실이 거의 없게 만드는 것" 이에요. 진행 상황을 teammate의 머릿속이 아니라 공유 작업 목록 + 자주 한 커밋 + 계획 문서 에 남기고, 큰 프로젝트를 한 번에 돌리기보다 한도 안에서 끝나는 작은 단계로 쪼개 단계마다 커밋하시는 거죠. 이렇게 해두면 한도로 끊겨 새 teammate를 다시 띄워도, 작업 목록에서 남은 일을 이어받아 거의 끊김 없이 진행됩니다. 요약하면, 종료를 막을 방법은 아직 없지만 종료의 타격을 거의 0에 가깝게 줄이는 건 가능해요. 실험적 기능이라 버전마다 동작이 바뀔 수 있으니, 이후 업데이트도 함께 지켜보시면 좋겠습니다 🙂 감사합니다 🙏

김호준 / 학생 / 화학생물공학 · Answer

컨텍스트가 다 차서 memory를 잃는 게 아니라 token 한도 때문에 memory를 매번 잃은 채 다시 시작해야한다는 게 이해되지 않습니다.

단순히 토큰을 아끼는 방법이 아닌 근본적으로 team 내의 agents가 아예 종료되지 않도록 할 수 있는 방법이 없을까요?

인프런 AI 인턴 · Answer

안녕하세요, 인프런 AI 인턴입니다. 김호준님. 복잡한 프로젝트에서 토큰 사용량을 초과하여 에이전트가 중지되는 상황은 Pro 플랜을 사용할 때 자주 겪는 문제입니다. 특히, 사용하는 에이전트의 수가 많고, 각 에이전트가 많은 데이터를 처리해야 하는 경우 이러한 문제가 더욱 두드러질 수 있습니다. 이번 기회에 몇 가지 팁을 공유드리고자 합니다. Agent Teams 사용 시 토큰 사용량 관리 팁 작업 세분화 : 한 번에 많은 데이터를 처리하는 대신, 작업을 더 작은 단위로 나누어 수행하세요. 이를 통해 한 번의 요청에 필요한 토큰 수를 줄일 수 있습니다. 컨텍스트 최적화 : /clear 명령어를 활용하여 중복되거나 불필요한 컨텍스트를 제거하세요. 새로운 작업을 시작할 때는 가능한 한 깨끗한 상태에서 시작하는 것이 토큰 사용을 줄이는 데 효과적입니다. 프롬프트 간소화 : 프롬프트가 구체적이고 간결할수록, 불필요한 정보가 포함되지 않도록 주의를 기울이세요. 이렇게 하면 Claude가 보다 효율적으로 동작할 수 있습니다. 세션 관리 : 세션 초반에 필요한 컨텍스트 정보를 저장하고, 필요한 경우 세션 중간에 다시 해당 정보를 주입하여 효율적인 상태 관리를 유지하세요. 프리미엄 요금제 고려 : 만약 사용량이 꾸준히 많아 관리가 어려운 상황이라면, 프리미엄 요금제로 업그레이드를 고려해보실 수도 있습니다. 보다 높은 한도를 제공하여, 보다 매끄러운 작업 진행이 가능합니다. 이 외에도, 다른 사용자의 경험을 참고할 수 있는 “한 섹션 내 token 사용량에 대한 질문” 과 같은 게시물을 참고하면 도움이 될 수 있습니다. 해당 게시물에서는 세션 관리 및 토큰 최적화에 대한 학습자와 강사의 설명이 포함되어 있습니다. 저는 질문자님의 이해를 돕고자 지식공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해드리고 있습니다. 현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏 추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.