토큰 폭탄 문제
3
5 asked
안녕하세요. Hermes Agent로 여러 직원을 운영 중인데, 토큰 비용이 비정상적으로 많이 나와서 문의드립니다.
상황:
직원 한 명(코딩 담당)에게 2시간도 안 되는 시간 작업시켰는데, OpenRouter에서 $20 / 189 요청 / 13.3M 토큰이 나왔습니다.
작업 내용은 단순한 웹 UI 수정(레이아웃 변경, 버튼 이름, 자막 분할 규칙, 미리보기 박스)뿐이었습니다. 무거운 작업이 아니었습니다.
계산해보니 요청 한 번당 평균 7만 토큰입니다.
원인을 찾아보니, 직원이 작업할 때마다 스킬 86개 + 도구 설명을 매 요청마다 통째로 LLM에 보내는 것 같습니다.
질문:
Hermes에서 직원 작업 시 스킬/도구 설명을 매번 전부 컨텍스트에 싣는 게 맞나요? 이게 요청당 7만 토큰의 원인인가요?
필요한 스킬만 동적으로 로드하거나, 안 쓰는 스킬은 안 싣게 하는 설정이 있나요?
이걸 직원별로 줄일 수 있나요, 아니면 전역 설정이어야 하나요? (직원마다 필요한 스킬이 달라서요)
한 직원 설정을 바꿀 때 다른 직원에게 영향이 안 가게 하려면?
그 외 토큰/비용 줄이는 권장 설정이 있을까요? (max_turns, 세션 관리, 모델 분리 등)
단순 UI 수정 2시간에 $20이면, 여러 본부로 확장 시 감당이 안 될 것 같아 비용 구조부터 잡으려 합니다. 감사합니다.
Answer 1
슬랙 연결하고 설정할 떄 CLI에서 계속 반복적으로..
0
7
1
openrouter는 강의가 있었는데..ㅠㅠ 어디갔지요
0
14
3
hostinger vps 세팅 부분 대시보드 접속 전 id, pw
0
12
1
slack과 터미널과의 실행 차이(with openrouter api)
0
12
1
저도 슬랙과 텔레그램 중복 토큰 에러가 납니다.
0
22
3
커리큘럼이바뀐거같은데 맞나요?
0
19
1
Wave에서 Hostinger VPS 연결
0
24
1
텔레그램 연 동 관련한 질문사항
0
22
2
unit 1.3 화면이 안보여요 ㅠㅠ
0
41
4
로컬 환경의 헤르메스와 텔레그램 통신의 개념
0
24
2
Windows11 home OS사용 Hyper-v 옵션 안보임
0
31
2
터미널에서 헤르메스를 키면 소피가 대답을 하는데, 텔레그램은..
0
28
3
터미널에서 슬랙 텔레그램 연결했는데
0
45
5
vps활용해서 하는데 너무 지금이랑 달라서 하나도 모르겠어요...
0
34
2
ada env 질문있습니다.
0
29
1
hermes desktop / hermes model
0
40
3
세션생성질문
0
31
2
WSL에서 멀티프로필 gateway install 시 실패 문제
0
36
2
슬랙 프로필 변경 질문
0
46
2
올리버 에게 채용을 맡기다..에서 문의
0
43
1
슬랙 스레드 대답
0
38
3
github 세팅 자체를 github desktop을 사용해도 되나요?
0
34
1
헤르메스와 코덱스 연결 관련
0
45
1
mia /goal 실습시.. 아웃풋 폴더
0
31
1

