AI 토큰이란 — 100만 토큰 10달러가 실제로 얼마나 되는 양인가
A token is the unit an AI language model reads and writes in — roughly a word fragment, not a word. Providers price input and output tokens separately, and output almost always costs more because generating text takes more computation than reading it. Token counts also vary by language: one measurement found Korean text uses about 2.36 times as many tokens as English for the same meaning, so a headline price per million tokens does not translate directly into cost. Ramp data reported in August 2026 shows the gap clearly: Anthropic's Fable 5 accounted for 11.4 percent of dollar spend on Anthropic tools but only about 6 percent of tokens, because it costs roughly 10 dollars per million tokens — about double GPT-5.6 Sol. Context windows cap input plus output for a single exchange
토큰은 AI 언어 모델이 글을 읽고 쓸 때 쓰는 최소 단위다. 단어 하나가 아니라 단어 조각에 가깝고, 그래서 같은 뜻의 문장이라도 언어에 따라 토큰 수가 달라진다. 한 측정에서 한국어는 같은 의미의 영어 문장 대비 평균 2.36배의 토큰을 썼다. 요금은 입력 토큰과 출력 토큰을 따로 매기며 출력이 더 비싼 것이 보통인데, 읽는 것보다 쓰는 데 연산이 더 들기 때문이다. 2026년 8월 보도된 램프(Ramp) 집계는 이 구조를 그대로 보여준다 — 앤스로픽 페이블5는 앤스로픽 도구 지출의 11.4%를 차지했지만 토큰 기준으로는 약 6%였다. 100만 토큰당 약 10달러로 GPT-5.6 Sol의 약 두 배이기 때문이다. 컨텍스트 윈도는 한 번의 대화에서 입력과 출력을 합쳐 처리할 수 있는 토큰 총량을 제한한다
3줄 요약
- 단위 — 토큰은 단어가 아니라 단어 조각이다. 언어에 따라 개수가 크게 달라진다
- 요금 — 입력과 출력을 따로 매기고, 출력이 더 비싸다. 표시 가격이 곧 총비용은 아니다
- 실증 — 페이블5는 지출의 11.4%인데 토큰으로는 6%. 단가가 두 배이기 때문이다
핵심 질문
- AI 토큰이 뭐야
- **모델이 글을 처리할 때 쓰는 최소 단위다.** 사람은 글을 단어로 읽지만 모델은 **토큰**으로 읽는다. 토큰은 대체로 단어보다 작다 — 자주 쓰이는 짧은 단어는 통째로 한 토큰이 되고, 긴 단어나 드문 단어는 여러 조각으로 쪼개진다. 처리 순서는 이렇다. ① 입력한 글을 토큰 목록으로 바꾼다(토크나이즈). ② 모델이 그 목록을 읽고 다음 토큰을 하나씩 예측한다. ③ 예측된 토큰들을 다시 글자로 되돌려 화면에 보여준다. 요금이 토큰 단위로 매겨지는 이유가 여기 있다 — **토큰 수가 곧 모델이 한 일의 양**이기 때문이다. 젠슨 황이 토큰을 'AI의 통화'라고 부른 것도 같은 맥락이다.
- 한국어가 영어보다 비싸다는 게 무슨 말이야
- **같은 뜻을 담아도 한국어가 토큰을 더 많이 먹기 때문이다.** 한 측정에서 같은 의미의 문장을 여러 언어로 옮겨 토큰 수를 비교한 결과, 한국어는 영어 대비 평균 **2.36배**를 썼다. 이유는 토크나이저가 대부분 영어 중심 데이터로 만들어졌기 때문이다 — 영어 단어는 통째로 한 토큰이 되는 경우가 많지만, 한국어는 자모나 짧은 음절 단위로 잘게 쪼개지는 경우가 많다. 이 차이가 두 가지 결과를 만든다. ① **비용** — 100만 토큰당 요금이 같아도 한국어로 같은 작업을 하면 더 많이 낸다. ② **용량** — 100만 토큰 컨텍스트 모델이라도 한국어 문서는 영어보다 적게 넣을 수 있다. 그래서 **표시된 100만 토큰당 가격만 보고 모델을 비교하면 틀린다.**
- 100만 토큰이 대충 얼마나 되는 양이야
- **정확한 환산표는 없지만, 감을 잡는 방법은 있다.** 토큰 수는 언어·글의 종류·토크나이저에 따라 달라지므로 '토큰 = 글자 몇 개'라는 고정 비율은 존재하지 않는다. 실무에서 쓰는 방법은 두 가지다. ① **직접 세어 본다** — 각 제공사가 토큰 계산기를 제공한다. 실제 쓸 문서를 넣어 보는 것이 가장 정확하다. ② **누적으로 본다** — 한 번의 질문이 아니라 하루·한 달 사용량으로 본다. 특히 긴 대화나 코드베이스를 올려놓고 쓰는 경우, **질문이 짧아도 매번 앞의 내용 전체가 입력 토큰으로 다시 들어간다.** 100만 토큰 컨텍스트에 90만 토큰짜리 자료를 올려 두면 한 줄짜리 질문에도 90만 토큰이 입력으로 계산되는 식이다. 요금이 예상보다 크게 나오는 원인은 대개 이 지점이다.
AI 요금표에는 늘 같은 단위가 적혀 있다. "100만 토큰당 ○달러."
그런데 이 숫자만 보고 두 모델을 비교하면 대개 틀린다. 토큰이 무엇이고, 왜 표시 가격이 총비용을 알려주지 않는지 정리한다.
1. 토큰은 단어가 아니다
사람은 글을 단어로 읽는다. 모델은 토큰으로 읽는다.
| 단계 | 무슨 일이 일어나나 |
|---|---|
| ① 토크나이즈 | 입력한 글을 토큰 목록으로 쪼갠다 |
| ② 예측 | 모델이 그 목록을 읽고 다음 토큰을 하나씩 예측한다 |
| ③ 디토크나이즈 | 예측된 토큰을 다시 글자로 되돌려 보여준다 |
토큰은 대체로 단어보다 작다. 자주 쓰이는 짧은 단어는 통째로 한 토큰이 되고, 길거나 드문 단어는 여러 조각으로 쪼개진다. 그래서 "토큰 = 단어"라고 생각하면 계산이 어긋난다.
요금이 토큰 단위인 이유도 여기 있다. 토큰 수가 곧 모델이 실제로 한 일의 양이기 때문이다.
2. 입력과 출력은 값이 다르다
| 구분 | 무엇인가 | 상대적 가격 |
|---|---|---|
| 입력 토큰 | 모델이 읽는 부분(질문·첨부 문서·이전 대화) | 싸다 |
| 출력 토큰 | 모델이 쓰는 부분(답변) | 비싸다 |
출력이 비싼 이유는 연산량 때문이다. 읽는 것은 한 번에 처리할 수 있지만, 쓰는 것은 토큰을 하나씩 순서대로 만들어 내야 한다.
그래서 같은 작업이라도 긴 문서를 읽고 짧게 답하는 작업과 짧게 묻고 길게 쓰게 하는 작업은 비용 구조가 완전히 다르다. 요약은 전자, 생성은 후자다.
3. 언어에 따라 개수가 달라진다 — 한국어의 경우
| 언어 | 같은 의미 기준 토큰 수 |
|---|---|
| 영어 | 1.00 (기준) |
| 한국어 | 약 2.36배 |
토크나이저 대부분이 영어 중심 데이터로 만들어졌기 때문이다. 영어 단어는 통째로 한 토큰이 되는 경우가 많지만, 한국어는 짧은 조각으로 잘게 쪼개지는 경우가 많다.
결과는 두 갈래다.
| 항목 | 한국어 사용자에게 의미 |
|---|---|
| 비용 | 100만 토큰당 요금이 같아도 같은 작업에 더 많이 낸다 |
| 용량 | 100만 토큰 컨텍스트에 넣을 수 있는 한국어 문서의 양이 더 적다 |
이 때문에 표시 가격이 같아도 실제 부담은 언어별로 다르다. 모델을 고를 때 한국어 기준으로 직접 재 봐야 하는 이유다. 다만 2.36배는 특정 측정 조건의 결과이고, 모델과 글의 종류에 따라 달라진다.
4. 컨텍스트 윈도 — 요금이 튀는 지점
컨텍스트 윈도는 한 번의 처리에서 입력과 출력을 합쳐 다룰 수 있는 토큰 총량이다.
여기서 많은 사람이 놓치는 지점이 있다.
| 상황 | 실제 입력 토큰 |
|---|---|
| 100만 토큰 컨텍스트에 90만 토큰짜리 자료를 올려 둠 | — |
| 그 상태에서 한 줄짜리 질문을 던짐 | 90만 토큰 + 질문 |
| 다시 한 줄 더 물어봄 | 또 90만 토큰 + 앞선 대화 + 질문 |
대화가 길어질수록 매 턴의 입력이 커진다. 질문이 짧아도 앞의 내용 전체가 매번 다시 들어가기 때문이다. 요금이 예상보다 크게 나오는 원인은 대개 여기다.
이 문제를 줄이는 방법이 캐싱·요약·컨텍스트 정리 같은 기법들인데, 세부는 이 지면에서 다루지 않는다.
5. 실제 사례 — 지출 11.4%, 토큰 6%
토큰 단가가 시장을 어떻게 움직이는지 보여주는 숫자가 2026년 8월에 나왔다. 지출 관리 기업 램프(Ramp)가 약 7만 개 기업의 사용 데이터를 집계한 결과다.
| 지표 | 앤스로픽 페이블5 |
|---|---|
| 앤스로픽 도구 지출 중 비중 | 11.4% |
| 앤스로픽 도구 토큰 중 비중 | 약 6% |
| 100만 토큰당 가격 | 약 10달러 |
| 비교 | GPT-5.6 Sol의 약 2배 |
지출 비중이 토큰 비중의 두 배 가까이 되는 이유는 단순하다 — 단가가 두 배이기 때문이다. 이 표는 "비싼 모델을 얼마나 쓰는가"를 두 가지 방식으로 보여준다. 돈으로 세면 11.4%, 일한 양으로 세면 6%다.
이어지는 관찰이 더 중요하다. 페이블5는 6월 말 이후 성장이 멈췄고, 7월 말 더 싸게 나온 오퍼스5가 기업 지출에서 페이블5를 추월했다. 기업들이 대부분의 작업은 더 싼 모델로 충분하다는 결론에 도달하고 있다는 뜻이다.
같은 흐름은 가격 인하로도 나타났다 — 오픈AI는 2026년 8월 21일 GPT-5.6 Sol의 출력 100만 토큰 가격을 30달러에서 20달러로 내렸다(「GPT-5.6 Sol API 가격 인하 (8월 21일)」).
6. 자주 묻는 것
Q. 100만 토큰이 한국어로 몇 글자인가? 고정 비율은 없다. 언어·글의 종류·토크나이저에 따라 달라진다. 각 제공사가 제공하는 토큰 계산기에 실제 쓸 문서를 넣어 보는 것이 가장 정확하다.
Q. 표시 가격이 싼 모델이 항상 싼가? 아니다. 같은 텍스트라도 모델마다 토큰 수가 다르게 나올 수 있고, 답변 길이도 다르다. 표시 가격이 낮아도 답을 길게 쓰는 모델은 총비용이 더 클 수 있다.
Q. 왜 굳이 비싼 모델을 쓰나? 어려운 작업에서 정확도 차이가 나기 때문이다. 다만 램프 데이터가 보여주는 것은 그 차이가 필요한 작업의 비중이 생각보다 작다는 기업들의 판단이다.
Q. 토큰과 컨텍스트 윈도 중 무엇을 먼저 봐야 하나? 용도에 따라 다르다. 짧은 질의응답이 많으면 단가가, 긴 문서를 통째로 다루면 컨텍스트 윈도와 캐싱이 비용을 좌우한다.
7. 확인하지 못한 것
- 2.36배의 조건 — 특정 측정의 결과이며 모델·토크나이저·글의 종류에 따라 달라진다.
- 가격 수치 — 페이블5 100만 토큰당 약 10달러와 GPT-5.6 Sol 대비 2배는 보도 기준이며 공식 가격표와 대조하지 않았다.
- 표본 — 램프 집계 약 7만 개 기업의 산업 구성과 편중은 확인하지 못했다.
- 집계 시점 — 지출 11.4% 대 토큰 6%의 기준 시점을 원문으로 확정하지 못했다.
- 최신 단가 — 각 모델의 입력·출력 토큰 단가 최신 값은 개별 확인하지 않았다.
출처
- OpenAI Help Center — 토큰이란 무엇이며 어떻게 계산하나요?
- TECH INSIGHT — AI 토큰의 정의와 한국어가 영어보다 2~3배 비싼 이유
- AI Weekly — FT: Ramp Data Shows Anthropic's Fable 5 Plateaus at 11% of Anthropic Spend as Opus 5 Overtakes It
- heise online — Company data: Spending on Anthropic's Fable 5 AI model stagnates
- 엑스디노드 — 토큰(Token)이 뭐죠? 젠슨 황이 'AI의 통화'라 부른 그것
- Turing Post Korea — AI가 세상을 이해하는 단위, '토큰'