AI API 가격 인하 이유 — 넉 달 새 최대 80%, 에이전트 비용의 96~99%는 '캐시 읽기'였다

AI 모델 값이 넉 달 만에 최대 80% 떨어졌다. 데이터 과학자 맥스 울프가 2026년 10월 25일 블로그에 오픈AI와 앤트로픽의 가격 인하를 날짜별로 정리하고 이유를 따졌다. 7월 30일 GPT-5.6 루나 80% 인하부터 9월 29일 GPT-6.1 솔 캐시 가격 반값까지 두 달 사이에 여덟 번이다. 그의 결론은 두 가지다. 값을 누르는 힘은 값싼 오픈웨이트 모델에서 오고, 실제로 내 청구서를 줄인 것은 표시 가격이 아니라 캐시 읽기 가격이라는 것이다.

이 기사는 무엇이 얼마나 내렸는지, 왜 내렸는지, 그리고 내가 내는 돈은 실제로 얼마나 줄었는지를 차례로 정리한다.

1. 무엇이 얼마나 내렸나

가격은 100만 토큰당 입력 / 출력 / 캐시 읽기 순이다.

GPT-6.1 솔의 가격과 성능은 「GPT-6.1 솔 가격 100만 토큰 2달러」에서, 이후 나온 소형 모델 가격은 「클로드 하이쿠 5.5 가격 100만 토큰 0.1달러」에서 다뤘다.

2. 캐시 읽기 — 청구서의 진짜 주인공

AI 코딩 에이전트는 같은 일을 하면서 수십, 수백 번 모델을 부른다. 그때마다 시스템 지시, 열어 둔 코드 파일, 지금까지의 대화 기록을 통째로 다시 보낸다. 앞부분이 직전 요청과 똑같으면 모델 회사는 계산을 재활용하고 캐시 읽기 요금만 받는다. 보통 입력 가격의 5~10%다.

그래서 9월 1일 페이블 5.1처럼 표시 가격(10 / 50달러)은 그대로 두고 캐시 읽기만 1달러에서 0.25달러로 내린 조치가, 에이전트를 많이 쓰는 사람에게는 사실상 총비용 4분의 1 수준 인하가 된다. 반대로 '입력 가격 20% 인하' 같은 헤드라인은 에이전트 사용자에게 생각보다 작은 변화일 수 있다.

내 비용을 어림하는 법: 에이전트 사용 기록에서 캐시 읽기 토큰 비중을 먼저 본다. 90%를 넘으면 모델을 고를 때 입력·출력 가격보다 캐시 읽기 가격을 먼저 비교하는 것이 맞다.

3. 왜 내렸나 — 울프가 꼽은 다섯 가지

울프는 7월 루나 80% 인하가 소형 오픈웨이트 모델, 특히 딥시크를 겨냥한 것으로 본다. 성능 쪽 압력도 있다. 문샷 AI의 키미 K3.1 프로는 2 / 10 / 0.20달러로 오퍼스 5.5의 절반 값에 비슷한 성능을 낸다(「키미 K3.1 프로 공개」). 딥시크 모델의 성능은 「딥시크 V4.1 플래시 라이브벤치 81.1점」에서 다뤘다.

울프가 이상하다고 본 대목도 있다. 두 회사 모두 상장을 준비하는데, 투자자가 손실을 꼼꼼히 보는 시기에 주 수입원 가격을 깎았다는 점이다. 앤트로픽은 10월 26일 상장 신고서를 공개했다(「앤트로픽 상장 신청(S-1)」). 신고서에 따르면 2026년 2분기 컴퓨팅·인프라 비용은 매출의 48%로, 서빙 원가가 내려간 것은 사실이다.

4. 앞으로 다시 오를까

토큰 값이 언젠가 크게 오를 것이라는 걱정에 대해 울프는 회의적이다. 같은 성능을 내는 오픈웨이트 모델이 수십 곳에서 싸게 팔리는 한, 비싸게 받기 어렵다는 것이다.

5. 자주 묻는 질문

표시 가격이 같은데 왜 내 청구서가 줄었나? 캐시 읽기 가격이 내렸을 가능성이 크다. 에이전트 사용이라면 지출 대부분이 캐시 읽기다.

싼 모델로 바꾸면 무조건 이득인가? 아니다. 작업을 끝내는 데 드는 총 토큰 수가 모델마다 다르다. 같은 문장도 모델마다 토큰 수가 다르게 계산된다(「토크나이저란」).

오픈웨이트 모델은 공짜 아닌가? 가중치는 무료지만 돌리는 서버 비용이 든다. 그래서 추론 업체가 돈을 받고 대신 돌려 준다. 개념은 「오픈웨이트 모델이란」에서 정리했다.

6. 남은 것과 확인되지 않은 것

• 회사들의 공식 설명: 오픈AI·앤트로픽은 인하 이유를 이 분석처럼 밝힌 적이 없다.
• 마진: 추론 마진이 높다는 보도가 있지만 확인된 공개 수치는 없다.
• 다음 가격: 페이블 5.2나 GPT-6.1 아스트라 같은 다음 최상위 모델의 가격은 알려지지 않았다.