Claude 전용 토큰 아끼기: 맥락 단위로 일하고, 저장하고, 압축하기

Claude와 긴 작업을 할 때 토큰이 어디서 새는지, 그리고 내용을 AiAkiv에 남겨 둔 채 대화를 줄이는 순서를 다룬다. 팁 페이지의 덱 "Claude 전용 토큰 아끼기"를 글로 옮긴 문서다.

이 팁은 Claude 전용이다. ChatGPT는 대화를 잇는 방식이 달라 그대로 적용되지 않는다.

1. 왜 토큰이 새는가

LLM은 대화를 이어갈 때 두 가지 방법이 있다.

• 첫 번째는 전체 대화를 메모리에 매번 다시 쓰는 방법이다. 대화가 길수록 한 번 답하는 데 드는 토큰이 커진다.
• 두 번째는 앞의 대화는 메모리에 남겨 두고 뒤의 바뀌는 내용만 추가하는 방식이다. 이것이 캐시다. 다음 요청의 앞부분이 남겨 둔 것과 똑같으면 그 부분은 훨씬 싸게 다시 쓴다. 맨 앞에서부터 똑같은 데까지만 다시 쓰므로, 중간이 바뀌면 그 뒤는 다시 읽는다.

단, 모델이 바뀌거나 사용하지 않으면 메모리에 남겨진 대화가 사라진다. 가능하면 두 번째 방법을 써야 토큰을 크게 줄일 수 있다. 여기서 알려주는 팁을 활용하면 토큰도 줄이고 맥락도 유지할 수 있다.

메모리에 남겨 둔 대화(캐시)에는 세 가지 성질이 있다.

대화 자체를 줄이는 길은 압축이다. Claude Code의 /compact는 긴 대화를 짧은 요약으로 바꿔, 다음부터 AI에 넘기는 양을 줄인다. 대신 요약에 담기지 않은 세부는 버려진다.

그래서 토큰을 아끼는 원칙은 한 줄이다. AI에 넘기는 양은 줄이되, 그 내용을 잃어버리지 않는다. 넘기는 양은 압축으로 줄이고, 내용을 지키는 일은 AiAkiv 저장이 맡는다.

2. 여섯 원칙

순서대로 따른다. 1번부터 3번까지는 캐시를 살려 두는 일이고, 4번부터 6번까지는 대화를 줄여도 내용을 잃지 않게 하는 일이다.

1) 한 세션에서도 맥락 단위로 끊을 수 있게 일한다

작업을 한 번에 끝낼 수 있는 덩어리(기능 하나, 조사 하나)로 나눠 두고, 그 경계에서 멈출 수 있게 한다. 끊을 자리가 있어야 뒤의 저장과 압축을 할 수 있다. 여러 일을 한 대화에 섞어 두면 어디서 저장하고 어디서 줄일지 정할 수 없다.

2) 작업을 시작하면 모델을 바꾸지 않는다

캐시는 모델마다 따로라서, 중간에 바꾸면 그때까지의 대화 전체를 새 모델이 처음부터 다시 읽는다. 다른 모델이 필요하면 맥락 하나를 끝내고 저장하고 압축한 뒤에 바꾼다. 그러면 새 모델은 짧은 요약만 읽는다.

3) 한 맥락이 끝날 때까지 자리를 비우지 않는다

캐시는 쓸 때마다 수명이 늘지만, 안 쓰면 그대로 사라진다. 사라진 뒤에 돌아오면 긴 대화 전체를 다시 읽는다. 비우더라도 1시간 안에 돌아온다. 1시간은 Claude Code 기준이고, 기본값을 쓰는 도구는 5분이라 더 짧다.

4) 맥락 단위로 AiAkiv에 저장한다

맥락 하나가 끝나면 ak 저장으로 그 맥락을 기억에 남긴다. 다음 단계에서 대화를 줄여도 내용을 잃지 않는 것은 이 저장 덕분이다. 무엇을 담을지는 3절에 적었다.

5) 저장한 다음 세션을 압축한다

Claude Code에서는 /compact다. 긴 대화가 짧은 요약으로 바뀌어 다음부터 넘기는 양이 작아진다. 압축은 세부를 버리므로 저장이 먼저, 압축이 나중이다.

6) 이제 자리를 비워도 된다

압축한 뒤에는 캐시가 사라져도 다시 읽을 양이 작다. 돌아오면 짧은 요약과 AiAkiv에서 꺼낸 기억으로 시작한다. 다음 맥락은 다시 1번부터다.

3. 맥락을 끝낼 때 저장에 넣을 것

압축 뒤에는 요약과 기억만 남는다. 요약은 짧아서 세부가 빠지므로, 다시 시작할 때 필요한 것은 저장에 담아 둔다.

• 결정과 이유. 무엇을 정했고 왜 그랬는지. 고려했다가 버린 길이 있으면 그 이유까지.
• 남은 일. 다음 맥락에서 이어 할 일과 막혀 있는 일.
• 정확한 이름. 파일 경로, 함수 이름, 커밋 id, 설정 이름을 줄이거나 바꿔 부르지 않고 그대로 적는다. 나중에 이 이름으로 찾는다.

저장은 이렇게 요청한다.

ak 저장. 이번 맥락(로그인 오류 수정)을 결정과 이유, 남은 일, 고친 파일과 커밋 id까지 넣어서 저장해 줘. 요약은 한 줄로.

저장이 끝나면 압축한다. 압축한 뒤, 또는 다음 날 돌아와서는 기억에서 다시 시작한다.

지난번 맥락 찾아줘. 로그인 오류 수정에서 남은 일이 뭐였지?

AI는 이 말을 받으면 AiAkiv에서 지난 맥락을 찾아 답한다. 압축 요약에 없는 세부도 저장해 둔 기억에서 꺼낸다. 한 맥락이 길어 저장을 여러 번에 나눠 했다면 이어서 저장하기로 엮어 두면 흐름째 되찾을 수 있다.

4. 주의할 점

• 압축 전에 저장을 빠뜨리면 세부가 사라진다. 압축한 뒤에는 요약에 없는 결정과 이름을 대화에서 다시 꺼내기 어렵다. 저장이 끝난 것을 확인하고 압축한다.
• 1시간은 Claude Code 기준이다. 기본값을 쓰는 도구는 캐시가 5분이면 사라진다. 쓰는 도구의 캐시 수명을 모르면 5분으로 보고 움직이는 편이 안전하다.
• ChatGPT에는 그대로 쓰지 않는다. ChatGPT는 대화를 잇는 방식이 달라 이 팁이 맞지 않는다. 이 문서의 수명과 압축 설명은 Claude 기준이다.
• 여러 AI에 일을 나눠 맡길 때도 모델을 바꾸는 자리는 맥락의 경계다. 넘기는 쪽이 ak 저장으로 남기고, 받는 쪽이 그 기억에서 시작한다 (여러 AI로 일하기).

5. 더 보기

• 클릭하며 보는 슬라이드 "Claude 전용 토큰 아끼기" → 팁 페이지
• 좋은 기억을 만드는 저장 규약 → 저장하기
• 긴 작업을 여러 번에 나눠 저장하고 엮기 → 이어서 저장하기
• 여러 AI에 일을 나눠 맡길 때 넘기는 법 → 여러 AI로 일하기
• AI가 읽는 같은 내용의 참조 문서 → llms-saving-tokens.txt