AI API 피크 요금제가 뭐야

호출한 시각에 따라 토큰 단가를 다르게 받는 방식이다. 같은 모델에 같은 프롬프트를 보내도 혼잡 시간대(피크)에 보내면 비싸고, 한산한 시간대(오프피크)에 보내면 싸다. 실제 도입 사례에서는 오프피크가 피크의 정확히 절반으로 설계됐다. 전기 요금의 계절·시간대별 차등이나 통신사의 심야 할인과 같은 구조가 AI API로 옮겨 온 것이다.

왜 시간대별로 값을 다르게 받아?

GPU 연산 능력은 재고로 쌓아 둘 수 없기 때문이다. 새벽 3시에 놀고 있는 GPU 한 시간은 그대로 사라진다. 낮에 몰린 요청을 위해 그 시간을 저축해 뒀다 쓸 방법이 없다. 그런데 API 수요는 사람의 업무 시간을 따라 하루 중 몇 시간에 집중된다. 사업자 입장에서 선택지는 둘이다 — 피크에 맞춰 GPU를 더 사서 대부분의 시간을 놀리거나, 가격으로 수요를 분산시키거나. 피크 요금제는 후자다.

그럼 우리 팀은 어떻게 대응해야 해

요청을 두 종류로 나누는 것이 출발점이다. ① 사람이 화면 앞에서 기다리는 요청(챗봇 응답, 검색, 코드 자동완성)은 지연이 곧 품질이므로 피크 요금을 내고 그대로 둔다. ② 사람이 기다리지 않는 요청(야간 문서 색인, 대량 분류·요약, 평가·리그레션 테스트, 데이터 정제)은 오프피크로 옮긴다. 이 분류만 해도 상당 부분이 이동한다. 한 가지 함정은 시간대다 — 피크 구간이 대개 UTC 기준으로 고시되므로 한국시각으로 환산해 보면 국내 업무 시간과 정확히 겹치는 경우가 있다.

AI API 피크 요금제란 — 같은 질문이 시간대에 두 배가 된다

AI API 피크 요금제는 같은 모델·같은 요청이라도 호출한 시각이 혼잡 시간대(피크)인지 한산한 시간대(오프피크)인지에 따라 토큰 단가를 다르게 매기는 방식이며, GPU 연산 능력은 저장해 뒀다 나중에 쓸 수 없고 수요가 하루 중 몇 시간에 몰리기 때문에 도입된다

AI API 요금표는 오랫동안 두 칸이었다. 입력 얼마, 출력 얼마.

2026년 그 표에 칸이 하나 더 생기기 시작했다. 몇 시에 보냈는가.

같은 모델, 같은 프롬프트, 같은 답변. 그런데 값이 두 배 다르다.

1. 정의 — 무엇이 달라지는가

축	기존 요금제	피크 요금제
모델	단가 다름	단가 다름
입력/출력	단가 다름	단가 다름
캐시 적중 여부	단가 다름	단가 다름
호출 시각	무관	단가 다름

가격을 가르는 축이 하나 추가된 것뿐이다. 실제 도입 사례에서 오프피크는 피크의 정확히 절반으로 설계됐다.

새로운 발상은 아니다. 전기 요금의 시간대별 차등, 통신사의 심야 할인, 항공권의 성수기·비수기, 지하철 조조할인 — 혼잡한 자원에 시간대별 가격을 붙이는 방식은 오래된 도구다. 그 도구가 AI API로 옮겨 온 것이다.

2. 왜 도입되는가 — 저장할 수 없는 재고

핵심은 한 문장이다. GPU 연산 능력은 재고로 쌓을 수 없다.

자원	남는 만큼 저장 가능?
반도체·의류 등 물건	가능 — 창고에 쌓는다
전기	거의 불가 — 대규모 저장이 비싸다
GPU 연산 시간	불가 — 그냥 사라진다

새벽 3시에 놀고 있는 GPU 한 시간은 사라진다. 낮에 몰릴 요청을 위해 그 시간을 저축해 둘 방법이 없다.

그런데 수요는 평평하지 않다. API 호출은 사람의 업무 시간을 따라간다. 결과적으로 사업자 앞에는 두 개의 선택지가 놓인다.

선택지	결과
피크에 맞춰 GPU를 더 산다	하루 대부분의 시간 동안 장비가 논다 — 원가 상승
가격으로 수요를 분산시킨다	기존 장비로 더 많은 요청을 소화

피크 요금제는 후자다. 실제로 딥시크가 2026년 8월 이 방식을 도입하며 밝힌 이유도 "자원을 더 합리적으로 배분하기 위해", 개발자들이 "실제 사용량에 맞춰 작업을 배치하도록" 유도한다는 것이었다.

3. 인상인가 분산인가 — 구별하는 법

여기서 자주 혼동이 생긴다. 피크 요금제 도입은 가격 인상과 수요 분산을 동시에 담을 수 있고, 실제로는 섞여서 온다.

구별하는 방법은 하나다. 오프피크 단가를 기존 단가와 비교하는 것이다.

경우	오프피크 vs 기존 단가	해석
A	오프피크 = 기존 단가	순수한 분산 유도 (피크만 할증)
B	오프피크 < 기존 단가	실질 인하 (오프피크로 옮기면 이득)
C	오프피크 > 기존 단가	인상 + 분산 유도가 함께

2026년 8월 딥시크 사례를 이 표에 넣어 보자. V4-Flash 출력 기준 기존 단가는 100만 토큰당 0.28달러, 새 오프피크는 0.66달러다.

오프피크로 전부 옮겨도 기존보다 2.4배 비싸다. 즉 C에 해당한다 — 인상이 먼저 있고, 그 위에 분산 유도가 얹혔다. 구체적 수치는 「딥시크 API 가격 인상 8월 16일 발효」에 정리했다.

요금제 개편 발표를 읽을 때 "오프피크는 절반" 이라는 문구만 보면 안 되는 이유가 이것이다. 절반의 기준선이 어디로 옮겨갔는지를 봐야 한다.

4. 실무 — 무엇을 옮기고 무엇을 두는가

요청을 두 종류로 나누는 것에서 시작한다. 기준은 사람이 기다리고 있는가다.

유형	예시	판단
사람이 기다림	챗봇 응답, 검색, 코드 자동완성, 실시간 번역	피크에 그대로 둔다 — 지연이 곧 품질 저하
사람이 안 기다림	야간 문서 색인, 대량 분류·요약, 평가·리그레션, 데이터 정제, 로그 분석	오프피크로 옮긴다

많은 조직에서 토큰 소비량의 큰 몫은 두 번째 유형이 차지한다. 사용자에게 보이는 챗 응답보다, 눈에 안 띄는 배치 파이프라인이 훨씬 많은 토큰을 태우는 경우가 흔하다. 그래서 이 분류만 제대로 해도 이동 가능한 물량이 상당히 나온다.

간단한 산수를 해 보면 이렇다. 월 1000만 토큰을 출력하는 팀이 있고 그중 60%가 배치 작업이라고 하자.

구분	물량	단가(가정)	비용
전량 피크	1000만	피크	피크 × 1000만
배치 60%를 오프피크로	600만	피크의 50%	30% 절감
	400만	피크	—
합계	—	—	전체의 약 70%

약 30% 절감이다. 코드 수정 없이 실행 시각만 바꿔서다. (이 계산은 고시 단가에 따른 산술이며, 실측 사례를 확보한 것은 아니다.)

5. 함정 세 가지

① 시간대 기준이 UTC다. 피크 구간은 대개 세계표준시로 고시된다. 한국시각으로 환산해 보면 국내 업무 시간과 정확히 겹치는 경우가 있다. 예를 들어 UTC 01:00~04:00과 06:00~10:00을 피크로 잡으면, 한국시각으로는 오전 10시~오후 1시와 오후 3시~오후 7시다. 국내 팀에게는 사실상 "일하는 시간에 쓰면 두 배"가 된다. 반대로 한국의 심야·새벽은 대부분 오프피크에 들어간다.

② 재시도가 시간대를 넘어간다. 오프피크 막바지에 시작한 대량 작업이 실패해 재시도가 걸리면, 재시도분은 피크 요금으로 청구될 수 있다. 배치 스케줄은 구간 끝에 여유를 두고 잡아야 한다.

③ 캐시 적중 단가가 따로 논다. 피크·오프피크와 별개로 캐시 적중 입력 단가가 크게 조정되는 경우가 있다. 같은 프롬프트를 반복해 보내는 구조(대화형 서비스, 반복 에이전트)일수록 이 항목의 영향이 크다. 요금표에서 가장 싸던 칸이 가장 크게 오르는 일이 실제로 있었다.

6. 앞으로 볼 것

피크 요금제가 업계 표준이 될지, 한두 사업자의 일시적 조치로 끝날지는 아직 정해지지 않았다. 다만 배경에 있는 조건은 쉽게 바뀌지 않는다 — GPU 공급은 단기간에 늘지 않고, 수요는 업무 시간에 몰린다.

같은 시기에 반대 방향으로 움직인 사업자도 있다. 무료 이용자에게 최신 모델과 무제한 대화를 연 곳도, 모델 가격을 절반으로 내린 곳도 있었다. 이 갈림은 「2주에 한 번 신형 AI」와 「8주에 5개 — 중국 AI 모델 파상 공세」에서 다룬 경쟁 구도의 연장선에 있다.

토큰 가격의 기본 구조 — 왜 출력이 입력보다 비싼가, 캐시 적중이란 무엇인가 — 는 「AI 토큰 가격이란 — 출력이 입력보다 5배 비싼 이유」에 정리돼 있다.

7. 확인되지 않은 것

도입 사업자의 전수 목록을 확인하지 못했다. 이 문서가 구체적으로 확인한 사례는 딥시크다.

시간대 기준이 사업자마다 같은지 모른다. UTC 단일 기준인지 이용자 소재지를 반영하는지는 사업자별로 다를 수 있다.

배치 API 할인과의 중복 적용 여부를 모른다. 별도의 배치 할인을 운영하는 사업자에서 두 할인이 겹치는지는 확인하지 못했다.