모델이 글을 다루는 최소 단위다. 글자도 단어도 아닌 그 중간쯤의 덩어리로, 영어는 대략 한 토큰이 네 글자 안팎이고 한국어는 같은 내용을 담는 데 토큰을 더 많이 쓴다. 그래서 '100만 토큰이 책 몇 권'이라는 환산은 언어에 따라 크게 달라진다. 정확한 값이 필요하면 API가 응답과 함께 돌려주는 토큰 사용량을 직접 보는 편이 낫다. 회사마다 토크나이저가 달라 같은 문장도 토큰 수가 다르게 나온다.

왜 입력과 출력의 값이 달라?

계산 방식이 다르기 때문이다. 입력은 모델이 프롬프트 전체를 한 번에 훑는 단계라 GPU가 병렬로 처리할 수 있다. 반면 출력은 한 토큰을 만들고, 그것을 다시 입력에 붙여 다음 토큰을 만드는 순차 과정이다. 100토큰을 쓰려면 모델을 100번 돌려야 한다. 병렬로 압축되는 작업과 순차로 늘어지는 작업의 비용 차이가 그대로 단가 차이가 된다. 실제로 공개된 단가에서 출력은 입력의 4~5배인 경우가 많다.

대화가 길어지면 왜 비싸져?

AI 모델에는 기억이 없기 때문이다. 매 요청마다 이전 대화 전체를 다시 입력으로 넣어야 모델이 맥락을 안다. 1턴에서 500토큰을 넣었다면, 10턴째에는 앞선 아홉 번의 질문과 답변이 모두 입력에 포함된다. 대화 한 번의 비용이 아니라 대화 전체의 누적 비용이 대화 길이의 제곱에 가깝게 늘어난다는 뜻이다. 그래서 긴 상담형 서비스는 요약을 끼워 넣거나 오래된 대화를 잘라 내는 방식으로 입력을 관리한다.

정가표대로 청구되는 거야?

아니다. 최소 세 가지가 정가표와 실제 청구액 사이에 있다. 첫째는 캐시 할인이다 — 여러 요청에 반복되는 앞부분(시스템 프롬프트, 긴 문서)을 캐시해 두면 그 부분은 훨씬 낮은 단가로 청구된다. 둘째는 배치 처리다 — 즉시 응답이 필요 없는 작업을 모아 보내면 별도의 낮은 단가가 적용된다. 셋째는 도입가다 — 신규 모델의 가격에 종료일이 붙어 있는 경우가 흔하고, 그날 이후에는 두 배가 되기도 한다.

구독 요금제랑 API 가격이랑 뭐가 달라?

과금 방식 자체가 다르다. 구독은 월 정액을 내고 일정 한도 안에서 쓰는 방식이고, API는 쓴 만큼 토큰 단위로 내는 종량제다. 개인이 채팅 앱으로 쓰는 것은 대개 구독이고, 서비스에 모델을 붙여 파는 쪽은 API다. 두 가격은 서로 연동되지 않는다 — API 단가가 내려가도 구독료는 그대로인 경우가 많고, 실제로 그런 발표가 여러 번 있었다.

AI 토큰 가격이란 — 출력이 입력보다 5배 비싼 이유

AI API 가격은 모델이 읽은 글(입력 토큰)과 쓴 글(출력 토큰)에 각각 다른 단가를 매겨 100만 토큰 단위로 청구하며, 출력 단가가 입력의 몇 배로 비싼 것은 입력은 한 번에 병렬로 처리되고 출력은 한 글자씩 순차로 만들어지기 때문이다

AI 모델의 가격표는 보통 이렇게 생겼다.

`` 입력 $0.75 / 100만 토큰 출력 $3.75 / 100만 토큰 ``

숫자 두 개가 전부처럼 보이지만, 이 표에서 실제 청구액을 계산하려면 알아야 할 것이 최소 다섯 가지 더 있다.

1. 토큰 — 과금의 단위

토큰은 모델이 글을 다루는 최소 단위다. 글자도 아니고 단어도 아닌 그 중간쯤의 덩어리다.

언어	대략적 밀도
영어	1토큰 ≈ 4글자 안팎
한국어	같은 내용에 토큰이 더 많이 든다

정확한 환산은 회사마다 다른 토크나이저에 달려 있다. 같은 문장도 회사가 다르면 토큰 수가 다르게 나온다. 그래서 "100만 토큰이면 책 몇 권"이라는 감은 참고만 하고, 실제로는 API가 응답과 함께 돌려주는 토큰 사용량을 보는 편이 정확하다.

한국어 서비스를 만드는 입장에서 이 차이는 사소하지 않다. 같은 기능을 영어와 한국어로 제공하면 한국어 쪽 비용이 더 든다.

2. 입력과 출력의 값이 다른 이유

이것이 이 가격표의 가장 중요한 구조다.

단계	무엇이 일어나나	계산 방식
입력 처리	프롬프트 전체를 한 번 훑는다	병렬 — GPU가 동시에 처리
출력 생성	토큰 하나를 만들고, 그걸 다시 넣어 다음 토큰을 만든다	순차 — 한 번에 하나씩

100토큰짜리 프롬프트를 읽는 것은 모델을 한 번 돌리는 일에 가깝다. 100토큰짜리 답을 쓰는 것은 모델을 100번 돌리는 일이다.

이 구조 차이가 그대로 단가 차이가 된다. 공개된 여러 단가에서 출력은 입력의 4~5배다.

실무적 함의는 분명하다.

작업 유형	입력	출력	비용 성격
긴 문서 요약	매우 김	짧음	입력 지배 — 상대적으로 저렴
짧은 지시 → 긴 생성	짧음	매우 김	출력 지배 — 비싸다
분류·추출	중간	매우 짧음	가장 저렴한 축
코드 생성	중간	김	출력 비중 큼

같은 100만 토큰을 쓰더라도 어느 쪽에 쏠렸느냐에 따라 청구액이 5배 차이 난다.

3. 대화는 왜 점점 비싸지나

여기서 대부분의 예산 사고가 난다.

AI 모델에는 대화의 기억이 없다. 매 요청마다 이전 대화 전체를 다시 넣어야 모델이 맥락을 안다.

한 턴에 질문 200토큰, 답변 300토큰이 오간다고 하자.

턴	입력 토큰	누적 입력
1턴	200	200
2턴	200 + 500 = 700	900
3턴	200 + 1000 = 1200	2100
5턴	2200	6000
10턴	4700	24,500

10턴 대화의 누적 입력은 1턴의 10배가 아니라 120배가 넘는다. 대화 길이에 대해 대략 제곱으로 늘어나기 때문이다.

그래서 긴 대화를 다루는 서비스는 세 가지 중 하나를 쓴다.

① 요약 끼워 넣기 — 오래된 대화를 짧은 요약으로 대체한다 ② 창 자르기 — 최근 N턴만 남기고 버린다 ③ 캐싱 — 반복되는 앞부분을 낮은 단가로 처리한다 (다음 절)

컨텍스트 창의 한도와 실제로 쓸 수 있는 길이가 다른 이유는 「컨텍스트 윈도우란」에 정리했다.

4. 정가표에 없는 세 가지 값

항목	무엇	효과
캐시 입력	여러 요청에 반복되는 앞부분(시스템 프롬프트, 긴 참조 문서)을 저장해 두고 재사용	그 부분이 훨씬 낮은 단가로 청구된다
배치 처리	즉시 응답이 필요 없는 작업을 모아서 보냄	별도의 낮은 단가
도입가 기한	신규 모델의 낮은 가격에 종료일이 붙어 있음	그날 이후 값이 오른다

캐시가 특히 크다. 같은 500페이지 문서를 100번 질문하는 서비스라면, 캐시 없이는 문서를 100번 다시 청구받는다. 캐시가 걸리면 그 부분은 한 번 온전히 청구된 뒤 낮은 단가로 재사용된다.

도입가 기한은 가격 비교에서 자주 빠뜨리는 항목이다. "지금 얼마인가"와 "내년에 얼마인가"가 다른 모델이 흔하다.

5. 실제 사례 — 2026년 8월의 가격표

2026년 8월 15일 시점에 공개된 값 중 확인된 것을 옮긴다.

모델	입력 (100만 토큰)	출력 (100만 토큰)	비고
제미나이 3.7 플래시	$0.75	$3.75	2026년 12월 31일까지 도입가, 이후 $1.50 / $7.50
제미나이 3.6 플래시	$0.75	$3.75	같은 날 동일가로 인하, 같은 기한
클로드 소네트 5	$2	$10	2026년 8월 10일 정상가로 확정 (예정됐던 $3 / $15 인상 취소)

이 표에서 읽어야 할 것이 셋이다.

① 출력/입력 비율이 5배 안팎으로 비슷하다. 제미나이 5.0배, 소네트 5.0배다. 앞서 설명한 계산 구조 때문에 회사가 달라도 비율이 수렴한다.

② 기한이 붙은 값과 안 붙은 값이 섞여 있다. 제미나이의 0.75달러에는 종료일이 있고 소네트의 2달러에는 없다. 장기 서비스를 설계할 때는 이 차이가 단가 차이보다 클 수 있다.

③ 같은 회사 안에서도 등급이 나뉜다. 워크호스 등급과 최상위 등급의 단가는 대개 한 자릿수 배수 이상 차이 난다. "가장 좋은 모델"을 모든 요청에 쓰는 것은 대개 비용 설계 실패다.

가격 변동의 배경은 「제미나이 3.7 플래시 가격 절반」에 정리했다.

6. 청구액을 계산해 보면

가정: 제미나이 3.7 플래시 단가($0.75 / $3.75)로 고객 문의 응답 서비스를 돌린다.

항목	값
하루 요청 수	5,000건
요청당 입력	3,000토큰 (시스템 프롬프트 2,000 + 문의 1,000)
요청당 출력	500토큰
하루 입력 토큰	15,000,000
하루 출력 토큰	2,500,000
하루 입력 비용	15 × $0.75 = $11.25
하루 출력 비용	2.5 × $3.75 = $9.38
하루 합계	약 $20.63
월 (30일)	약 $619

여기서 캐싱을 적용하면 어떻게 되는지 보자. 시스템 프롬프트 2,000토큰은 5,000건 모두에 동일하게 들어간다 — 하루 1,000만 토큰이 같은 내용이다. 이 부분이 캐시 단가로 넘어가면 입력 비용의 3분의 2가 줄어드는 구간에 들어간다.

토큰 수를 줄이는 것보다 반복을 캐시로 옮기는 것이 대개 더 큰 절감이다. 단, 구체적 할인율은 회사·모델마다 달라 이 기사에서 값을 확정하지 않았다.

7. 구독과 API는 다른 가격이다

구분	과금	누가 쓰나
구독 요금제	월 정액 + 사용 한도	개인 사용자, 채팅 앱
API	토큰 종량제	서비스에 모델을 붙이는 개발자

두 가격은 서로 연동되지 않는다. API 단가가 내려가도 구독료는 그대로인 경우가 많다. 2026년 8월 앤스로픽이 소네트 5의 API 도입가를 정상가로 확정하면서도 구독 요금제 가격은 그대로라고 명시한 것이 그 예다.

8. 비용을 줄이는 순서

경험적으로 효과가 큰 순서다.

모델 등급을 낮춘다 — 분류·추출 같은 단순 작업에 최상위 모델을 쓰지 않는다. 배수 단위로 줄어든다
반복 입력을 캐시로 옮긴다 — 시스템 프롬프트와 참조 문서
출력 길이를 제한한다 — 출력이 5배 비싸다. "간결하게"라는 지시 한 줄의 금전적 효과가 크다
대화 창을 관리한다 — 요약 또는 절단
급하지 않은 작업을 배치로 돌린다
토큰 수를 센다 — 위 다섯을 하고 나서야 의미 있는 단계다

9. 이 기사가 다루지 않은 것

이미지·오디오 입력의 과금. 텍스트가 아닌 입력은 별도 체계로 토큰이 환산되며 이 기사는 다루지 않았다.

도구 호출과 에이전트 실행. 모델이 검색이나 코드 실행을 반복하면 그때마다 결과가 다시 입력으로 들어간다. 한 번의 사용자 요청이 내부적으로 수십 번의 API 호출이 되는 구조에서는 위 계산이 그대로 통하지 않는다.

가격은 자주 바뀐다. 본문의 단가는 2026년 8월 15일 시점의 공개값이다. 실제 사용 전에는 각 사의 가격 페이지를 직접 확인해야 한다.