토큰 값이 오른 주에 한도는 게이트웨이로 내려갔다

AX 도입 검토서에서 원가는 대개 한 줄로 끝난다. "100만 토큰당 얼마 × 예상 호출 수." 이 한 줄이 성립하려면 단가가 상수여야 한다. 지난주 그 전제가 깨졌다.

DeepSeek은 8월 17일부터 V4 계열 API 가격을 올렸다. 인상 폭은 모델과 토큰 종류, 사용 시간대에 따라 50%에서 1,100%까지다. 동시에 피크·오프피크 요금제를 도입해, 같은 요청이라도 언제 들어오느냐에 따라 값이 두 배 차이 난다.

출력 100만 토큰	기존	피크	오프피크
V4-Flash	$0.28	$1.32	$0.66
V4-Pro	$0.87	$3.96	$1.98

단가는 내가 고르는 값이 아니라 공급자가 쥔 변수다

DeepSeek은 인상 후에도 서구 프런티어 모델보다 싸다. 사라진 것은 가격 우위가 아니라 계산의 안정성이다. 성능이 떨어진 것도, 계약을 어긴 것도 아니다. 공지 한 번으로 바뀔 수 있는 값이었다는 사실이 드러났을 뿐이다.

여기서 무너지는 건 원가 예측이 아니라 그 위에 세운 의사결정이다. 월 예산에 맞춰 호출 수를 잡고, 그 호출 수에 맞춰 기능 범위를 정한 계획은 단가가 3.5배 오르는 순간 기능 범위부터 잘려나간다. 시간대 요금까지 붙으면 배치 작업을 언제 도느냐가 원가 항목이 된다.

그래서 모델을 갈아타는 일이 결제 인프라의 문제가 됐다

Stripe가 OpenRouter를 70억 달러 넘는 값에 인수했다고 8월 16일 보도됐다. OpenRouter는 400개 이상 모델을 하나의 접점으로 묶어 800만 개발자에게 제공한다. 석 달 전 시리즈B 기업가치는 13억 달러였다. 다섯 배 넘는 값이 붙은 근거는 모델 성능이 아니라 그 층이 하는 일, 즉 라우팅과 정산이다. 단가가 흔들릴수록 갈아타기와 청구를 대신 처리하는 층의 값이 오른다.

반대편도 봐야 한다. OpenRouter CEO는 자사를 "AI의 Stripe"라고 불렀고 락인을 막는 것이 존재 이유라고 말해왔다. 이제 실제로 Stripe다. 종속을 피하려고 끼워 넣은 게이트웨이는 그 자체로 새로운 단일 지점이 된다. 교체 가능성을 사는 대가로 교체 불가능한 층을 하나 얻는 거래다.

한도는 호출 한 건이 아니라 세션 누적에서 걸린다

AWS는 8월 16일 Dogwood를 Apache 2.0으로 공개했다. Cedar를 확장해, 같은 세션에서 이전에 어떤 도구를 호출했고 무엇이 돌아왔는지를 조건으로 쓰는 정책 언어다. formerly, count_within, count_distinct_within, sum_within 네 연산자로 시간 창과 누적 합을 본다.

왜 필요한지는 InfoQ가 든 예가 정확하다. 건당 한도만 검사하면, 2,000달러 이체 세 건이 동시에 들어올 때 5,000달러 상한을 그대로 통과한다. 응답이 아니라 요청 시점에 누적을 세야 막힌다. Bedrock AgentCore는 같은 원리를 게이트웨이에 넣어, 세션 누적 지출이 예산에 닿으면 개별 한도 이하인 다음 결제도 차단한다. 요청 수·토큰·연결 시간 세 축으로 사용자별 상한도 건다. 위치가 핵심이다. 에이전트 코드 바깥이라 모델이 우회 논리를 만들어낼 수 없다.

다만 AWS는 Dogwood 참조 구현이 프로덕션 인가용이 아니라고 명시했다. 실제로 쓰려면 신뢰할 수 있는 타임스탬프, 인증된 이벤트, 내구성 있는 저장소, 테넌트 격리를 직접 갖춰야 한다. 온 것은 정책 언어이고, 이벤트 로그 인프라는 각자의 몫으로 남았다.

교육과 AX 현장에서 이 변화는 실습 과제의 위치를 바꾼다. "어느 모델이 싼가"를 비교하는 수업은 단가표가 바뀌는 주에 수명을 다한다. 대신 세션 누적을 어디서 세고 어느 지점에서 막을 것인지를 설계해보게 하는 편이 오래 간다. 조녁컴퍼니가 도입 과제를 잡을 때 모델 선정보다 한도·계측 설계를 먼저 앉히는 이유다. 사업영역 →