사용 기록
써 본 날2026-11-09
써 본 것맥미니 클로드 코드의 대화 기록(최근 7일, 디스코드로 일을 시키는 세션 포함). 모델 Opus 5.5
비용클로드 Max 구독이라 요청마다 내지는 않음. 글의 금액은 API 정가로 환산한 입력비
설치없음 (파이썬 스크립트 하나)
회사 자료쓰지 않음 (맥 안의 대화 기록을 읽어 숫자만 더함, 밖으로 보내지 않음)
난이도터미널 조금
결과Opus 요청 13,612번, 입력의 99%를 캐시에서 읽음. 캐시를 거의 못 읽은 큰 요청 133번 중 1시간 넘게 쉰 뒤 76번, 대화 압축 직후 47번, 세션 첫 요청 7번, 5분 안 3번
한 줄 결론제 기록에서는 캐시가 거의 다 맞았고, 새는 곳은 1시간 넘게 쉰 세션을 그대로 이어 갈 때였어요.
10월 21일, 당근 기술 블로그에 “모델만 바꿨는데 LLM 비용이 3배가 된 이유”라는 글이 올라왔어요. 단가가 20% 싼 모델로 바꿨더니 프롬프트 캐시가 거의 안 맞게 돼서, 오류 하나 없이 요청당 비용만 3.2배가 됐다는 이야기예요.
제 맥미니에서는 클로드 코드가 하루 종일 돌아요. 디스코드로 일을 시키는 세션도 여럿이고요. 그래서 클로드 코드가 남겨 둔 대화 기록으로 최근 7일 캐시 히트율을 재 봤어요.
프롬프트 캐싱이 뭔가요?
클로드 코드는 질문할 때마다 지금까지의 대화와 규칙 파일, 도구 설명을 함께 보내요. 앞부분이 지난번과 똑같으면 서버는 이미 읽어 둔 걸 꺼내 써요. 이게 프롬프트 캐싱입니다.
앤트로픽 공식 문서를 보면 값이 이렇게 달라요. 캐시에서 꺼내 읽은 입력은 Opus 5.5 기준으로 정가의 0.05배예요. 대신 처음 캐시에 저장할 때는 더 비싸요. 5분짜리 캐시는 정가의 1.25배, 1시간짜리는 2배예요. 캐시는 읽힐 때마다 수명이 다시 늘어나고, 그 시간 안에 아무도 읽지 않으면 사라져요.
히트율은 보낸 입력 가운데 캐시에서 읽은 비율이에요. 같은 토큰이라도 캐시에서 읽으면 0.05배, 새로 저장하면 2배라 값이 40배까지 벌어져요.
내 히트율은 어떻게 재나요?
클로드 코드는 대화를 ~/.claude/projects 폴더에 세션마다 파일 하나로 남겨요. 응답마다 usage라는 칸이 있고, 캐시에서 읽은 토큰(cache_read_input_tokens)과 새로 저장한 토큰(cache_creation_input_tokens)이 적혀 있어요. 이걸 다 더하면 돼요.
cache_rate.py (최근 7일 히트율, 맥·리눅스)
import json, glob, os, time
since = time.strftime('%Y-%m-%d', time.gmtime(time.time() - 7*86400))
read = write = plain = 0
for f in glob.glob(os.path.expanduser('~/.claude/projects/*/*.jsonl')):
seen = set()
for line in open(f, encoding='utf-8', errors='ignore'):
try: d = json.loads(line)
except ValueError: continue
m = d.get('message')
if not isinstance(m, dict) or not m.get('usage') or d.get('timestamp', '') < since: continue
rid = d.get('requestId') or m.get('id')
if rid and rid in seen: continue # 응답 하나가 여러 줄로 남아 한 번만 센다
seen.add(rid); u = m['usage']
read += u.get('cache_read_input_tokens') or 0
write += u.get('cache_creation_input_tokens') or 0
plain += u.get('input_tokens') or 0
total = read + write + plain
print(f'캐시 읽기 {read:,} / 캐시 저장 {write:,} / 캐시 밖 {plain:,}')
print(f'히트율 {read / total * 100:.1f}%' if total else '기록 없음')2026년 11월 9일 맥미니(macOS, 파이썬 3)에서 돌린 스크립트예요. 파일로 저장한 뒤 터미널에서 python3 cache_rate.py로 실행해요. 7일 전 날짜(UTC 기준)부터 셉니다. 윈도우에서는 돌려 보지 않았어요.
스크립트는 대화 기록 파일을 열어 읽지만, 토큰 숫자만 더해서 보여 주고 파일을 바꾸거나 밖으로 보내지 않아요. 이 기록 파일에는 대화 내용이 그대로 들어 있으니 파일 자체는 남에게 넘기지 않는 게 좋아요. 하위 폴더에 따로 남는 서브에이전트 기록은 세지 않아요.

여기서 한 번 틀렸어요. 처음엔 기록 줄마다 숫자를 더했는데, 응답 하나가 생각·글·도구 호출로 나뉘어 여러 줄로 남고 줄마다 같은 usage가 붙어 있었어요. 같은 요청을 여러 번 세다 보니 “쉬지도 않았는데 캐시가 무너진” 요청이 196번이나 나왔어요. 요청 번호(requestId)로 한 번씩만 세게 고치니 3번만 남았어요. 스크립트의 seen 줄이 그 부분이에요.
7일 동안 얼마나 아꼈나요?
여기부터는 오후 3시쯤 기준으로 Opus 5.5 요청만 따로 셌어요. 세션 28개에서 요청이 13,612번이었고, 요청 하나에 보낸 입력이 평균 39만 토큰이었어요.
그중 캐시에서 읽은 게 약 53억 토큰, 새로 저장한 게 약 4,400만 토큰, 캐시 밖 입력은 3만 토큰 정도였어요. 히트율로는 99.2%예요.
저장한 토큰을 보면 캐시 종류도 알 수 있어요. usage 안의 cache_creation 칸이 5분짜리(ephemeral_5m_input_tokens)와 1시간짜리(ephemeral_1h_input_tokens)로 나눠 적혀 있거든요. 제 기록은 모든 모델을 합쳐 저장한 5,200만여 토큰 가운데 5분짜리가 1,443토큰뿐이었어요. 거의 전부 1시간짜리였어요.
API 정가(Opus 5.5 입력 100만 토큰당 4달러)에 위 배율을 곱해 보면, 이 7일 입력비는 약 1,400달러예요. 저장은 전부 1시간짜리 2배로 쳤어요. 캐시가 하나도 안 맞았다면 같은 입력이 약 2만 1,400달러였어요. 입력비가 93% 줄어든 셈이에요. 구독이라 이 돈을 실제로 내지는 않았고, 출력 토큰 값과 구독 한도에 미치는 영향은 따지지 않았어요.
캐시가 무너진 순간은 언제였나요?
입력이 2만 토큰 넘는 Opus 요청 중에서, 절반 넘게 캐시를 못 읽은 요청을 골라 바로 앞 요청과 비교했어요. 그런 요청이 7일 동안 133번이었어요.
- 1시간 넘게 쉬었다 이어 간 요청: 76번
- 대화 압축(긴 대화를 요약해 줄이는 것) 직후: 47번
- 세션의 첫 요청: 7번
- 5분 안에 이어 간 요청: 3번
5분에서 1시간 사이를 쉬었다가 무너진 경우는 한 번도 없었어요. 저장이 거의 다 1시간짜리였던 것과 맞아요. 쉬다가 무너진 건 모두 1시간을 넘겨 쉰 뒤였어요. 무너진 요청 가운데 바로 앞 요청과 모델이 달랐던 경우도 없었어요. 5분 안에 무너진 3번은 기록만으로는 이유를 알 수 없었어요.
1시간 넘게 쉬면 얼마나 손해인가요?
76번이 새로 저장한 토큰이 약 1,850만 개예요. 7일 동안 Opus가 저장한 양의 42%예요. 정가로 바꾸면 약 148달러로, 7일 입력비의 10.5%예요. 1시간 안에 이어 가서 캐시에서 읽었다면 같은 양이 4달러 정도였어요.
한 번에 다시 저장한 양은 중간값이 약 16만 토큰이었어요. 가장 큰 건 25시간 반을 쉬었다가 90만 토큰을 한 번에 다시 저장한 경우였어요.
쉬다가 깨운 건 대부분 디스코드였어요. 76번 직전에 들어온 메시지를 보니 57번이 디스코드 메시지였고, 18번이 터미널 입력, 1번이 음성 통화였어요. 디스코드로 일을 맡기는 세션은 다음 메시지가 올 때까지 그대로 켜져 있다가, 몇 시간 뒤 메시지가 오면 쌓인 대화를 다시 저장하고 시작하는 것입니다.
그래서 어떻게 하면 덜 새나요?
결론은 제 기록에서는 이어서 일하는 동안 캐시를 따로 신경 쓸 일이 없었다는 거예요. 1시간짜리 캐시가 잡혀 있어서, 1시간 안에만 다음 요청이 오면 거의 다 읽혔어요.
새는 곳은 오래 쉰 세션에 긴 대화를 그대로 둔 채 다음 일을 시킬 때였어요. 그 순간 쌓인 대화를 2배 값으로 다시 저장하거든요. 반면 이번 기록에서 세션 첫 요청 7번은 평균 3만 5천 토큰만 저장했어요. 그러니까 1시간 넘게 쉰 세션에 앞 작업과 상관없는 일을 맡길 때는 /clear로 대화를 비우고 시작하는 쪽이 훨씬 덜 들어요. 앞 대화가 필요한 일이라면 다시 저장하는 값을 내는 게 맞고요.
함께 읽을 글
2026년 11월 9일 기준.
참고한 자료