블로그 목록

10만 토큰 벽을 세운 Haiku 5.5, 작은 AI 돈줄은 누가 쥐고 있나

2026년 10월 8일
10만 토큰 벽을 세운 Haiku 5.5, 작은 AI 돈줄은 누가 쥐고 있나

10만 토큰 벽을 세운 Haiku 5.5, 작은 AI 돈줄은 누가 쥐고 있나

• 핵심: 10만 토큰 기준으로 요금이 갈리는 소형 모델 Haiku 5.5의 출시 정리
• 맥락: 평균 실행 비용 75퍼센트 감소와 여섯 곳 현장 기록이라는 배경
• 관점: 작은 작업에 작은 모델을 고르는 기준이 서는 지점

값싼 모델이 나왔다는 소식에 무엇부터 확인해야 할까요. 2026년 10월 7일, Anthropic은 소형 모델 Claude Haiku 5.5를 출시했습니다 [1]. 발표는 가장 저렴하고 빠르고 성능이 높은 소형 모델이라는 설명으로 시작합니다 [1]. 이 글은 그 설명을 요금표와 측정 기록으로 하나씩 대조해 봅니다.

작은 모델이 맡는 일은 따로 있다

10만 토큰 벽은 프롬프트 10만 토큰을 기준으로 요금이 달라지는 구간 경계를 가리킵니다. 이 경계가 이번 발표를 읽는 열쇠입니다. Haiku 5.5는 요약과 문맥 압축, 데이터베이스 질의와 분류처럼 짧고 자주 반복되는 작업을 맡도록 설계됐습니다 [1]. 코딩에서는 큰 모델의 보조 에이전트로 붙고, 실시간 고객 지원과 브라우저 조작처럼 응답 속도가 중요한 일에도 어울립니다 [1]. 세탁소 전표 정리처럼 매일 쌓이는 반복 서류를 떠올리면 감이 옵니다. 크고 어려운 결정을 내리는 자리가 아니라, 같은 일을 빠르고 값싸게 처리하는 자리입니다.

Haiku 계열에서는 처음으로 추론 노력 수준을 조절할 수 있습니다 [1]. 비용을 아낄지 성능을 끌어올릴지 작업마다 고르는 장치죠. 복잡한 에이전트 코딩처럼 여러 단계를 엮는 일은 Sonnet 5.5와 Opus 5.5가 여전히 낫다는 게 발표의 선입니다 [1]. 작은 모델이 만능이 됐다는 이야기가 아닙니다. 자리가 갈렸다는 이야기죠.

가격은 두 구간으로 나뉜다

요금표는 100만 토큰당 가격으로 읽습니다. 10만 토큰 이하와 초과, 두 칸을 나란히 두면 구조가 보입니다 [1].

요금 항목 10만 토큰 이하 10만 토큰 초과 Haiku 4.5 읽을 때 둘 점
입력 0.10달러 [1] 0.50달러 [1] 1.00달러 [1] 이하 구간이 이전 대비 10분의 1인지 확인
출력 0.50달러 [1] 2.50달러 [1] 5.00달러 [1] 이하 구간이 이전 대비 10분의 1인지 확인
캐시 읽기 0.01달러 [1] 0.05달러 [1] 0.10달러 [1] 반복 호출 비중이 클 때 체감이 커지는지 구분
캐시 쓰기 0.125달러 [1] 0.625달러 [1] 1.25달러 [1] 저장 후 재사용 흐름에서 합산되는지 구분

가격은 두 구간으로 나뉜다 — 분석 책상 위 차트와 노트를 꼼꼼히 살피는 장면, 핵심·변화 대비

Haiku 4.5와 비교하면 10만 토큰 이하는 90퍼센트 인하, 초과 구간은 50퍼센트 인하입니다 [1]. 이전 모델 요청의 약 90퍼센트가 10만 토큰 이하에 들어갔다는 대목이 뒤따릅니다 [1]. 작업당 토큰 사용량 변화까지 반영한 평균 실행 비용은 약 75퍼센트 감소로 정리됩니다 [1]. 토크나이저가 바뀌어 같은 작업에 쓰는 토큰은 조금 늘었다는 단서도 함께 적혀 있습니다 [1]. 이 75퍼센트라는 숫자는 요금표만 나눈 값이 아니라 실제 사용량을 섞어 계산한 값이라는 뜻입니다. 토큰값이 아니라 과제값이 내려간다, AI 비용 하락곡선 해설에서 본 과제 단위 계산과 겹쳐 읽으면 이해가 빠릅니다.

벤치마크는 어디가 올랐나

Anthropic이 공개한 측정에서 지식 업무와 컴퓨터 사용, 에이전트 코딩 점수가 이전 세대보다 크게 올랐습니다 [1]. 지식 업무 GDPval-AA v2.1은 Haiku 5.5가 1620점, Haiku 4.5는 735점, GPT-6 Luna는 1437점, Sonnet 5.5는 1840점으로 적혀 있습니다 [1]. 전문가 수준 학술 추론인 Humanity's Last Exam은 도구 없이 45.9퍼센트, 도구를 쓰면 57.4퍼센트이며, 이전 세대는 각각 10.2퍼센트와 18.7퍼센트였습니다 [1]. 평가 방식과 세부 절차는 시스템 카드에 따로 정리돼 있습니다 [3]. 숫자만 보면 소형 모델의 체급이 한 단계 올라간 셈입니다.

컴퓨터 사용 OSWorld 2.1은 72.4퍼센트로, 이전 세대 15.7퍼센트와 Luna 48.9퍼센트를 크게 웃돌고 Sonnet 5.5의 83.9퍼센트에는 못 미칩니다 [1]. 측정 기준은 오프라인 부분집합이라는 설명이 붙어 있습니다 [1]. 에이전트 코딩 Terminal-Bench 4.0은 39.2퍼센트로, 이전 세대 0.0퍼센트와 Luna 16.4퍼센트 위, Sonnet 5.5의 70.6퍼센트 아래에 놓입니다 [1]. 이 간격이 작은 모델의 자리를 말해줍니다. 따라잡은 영역과 여전히 큰 모델 몫인 영역이 수치로 갈린 겁니다.

숫자를 읽을 때 기준을 먼저 묻는다

같은 70퍼센트라도 시험지가 다르면 뜻이 달라집니다. OSWorld는 실제 컴퓨터를 조작해 여러 단계 작업을 끝내는지를 보고, Terminal-Bench는 명령줄 안에서 전문 작업을 얼마나 해내는지를 봅니다 [1]. 기준이 다르니 점수끼리 직접 줄 세우기는 금물입니다. 각 시험지의 1등이 누구인지보다, 이전 세대 대비 어디가 얼마나 올랐는지를 먼저 보시길 권합니다.

큰 모델과 작은 모델의 자리

발표는 Haiku 5.5가 표준 속도 기준으로 가장 빠르다고 적습니다 [1]. 다만 Opus의 고속 모드보다는 느리다는 단서도 함께 달려 있습니다 [1]. 빠르다는 말에도 조건이 붙는 셈이죠. 싸고 빠른 자리를 작은 모델이 맡고, 복잡하고 긴 호흡의 일은 큰 모델이 맡는 분업으로 읽힙니다.

실제 현장 여섯 곳이 보고한 것

숫자는 현장 기록과 함께 볼 때 힘이 생깁니다. Asana는 버그 분류와 프로젝트 설정, 고위험 및 기한 초과 작업 탐색에서 작업 완료 지연 시간이 30퍼센트 이상 줄었다고 밝혔습니다 [1]. 에이전트 턴당 추론은 최대 2.5배 빨라졌다는 설명이 뒤따릅니다 [1].

Asana 엔지니어는 평가 과정에서 작업 완료 지연이 30퍼센트 이상 줄었고 턴당 추론이 최대 2.5배 빨라졌다고 말했습니다 [1].

AlphaSense는 문서 질문 기능에서 400개 질의를 평가해 0.76점에서 0.84점으로 올랐다고 전했습니다 [1]. 주당 약 800만 회 호출되는 기능이라는 규모 설명이 함께 있습니다 [1]. HubSpot은 CRM 평가에서 3회 평균 92.8퍼센트로 지금까지 본 최고 점수였다고 밝혔습니다 [1]. Box는 이전 세대보다 11점 높고 지연 시간은 약 절반이었다고 전했습니다 [1]. Cognition은 Devin Fusion의 보조 모델로 Haiku 5.5를 얹어 FrontierCode 66.2점을 유지하면서 비용과 지연을 줄였다고 밝혔습니다 [1]. Rogo는 큰 모델이 보고서를 만들 때 Haiku 5.5 보조 에이전트가 10-K에서 세그먼트 매출 항목을 꺼내 오게 했다고 설명했습니다 [1]. 여섯 기록의 공통점은 거창한 도입기가 아니라 반복 작업의 시간과 비용이 줄었다는 대목입니다.

Sonnet 인하와 구독 크레딧을 함께 보다

이번 발표에는 Haiku 바깥의 소식 두 가지가 들어 있습니다. Sonnet 5.5의 캐시 읽기 가격이 100만 토큰당 0.20달러에서 0.10달러로 절반 인하됐습니다 [1]. 캐시 읽기 비중이 높은 에이전트 작업에서는 비용이 약 20퍼센트 줄어든다는 설명이 뒤따릅니다 [1]. 작은 모델만 싸진 게 아니라 큰 모델의 반복 호출도 함께 내려간 셈입니다.

출시 주간부터 Max와 Team 구독자에게 월간 API 크레딧이 순차 제공됩니다 [1]. Max 5x는 월 100달러, Max 20x는 월 200달러, Team은 구성원이 함께 쓰는 크레딧을 최대 월 500달러 받습니다 [1]. 모든 모델에 쓸 수 있고, API를 호출하는 도구와 앱, 에이전트 실험에 쓰는 목적입니다 [1]. 세부 조건은 Claude 지원센터의 API 크레딧 안내에서 확인할 수 있습니다 [4]. 개발자 쪽 소식도 있습니다. Python과 TypeScript SDK에 컴퓨터 사용과 브라우저 사용 지원이 베타로 들어갔고, 활용법은 Claude Platform 문서에 정리돼 있습니다 [5]. 모델 식별자는 claude-haiku-5-5이며, 기존 모델에서 옮겨오는 방법은 마이그레이션 가이드에 나와 있습니다 [2]. 이런 혜택을 구독자 묶어두기 전략으로 읽는 시선도 있습니다. 어느 쪽 손을 들어줄지는 독자 몫으로 남겨둡니다.

왜 알아두면 좋은가

소형 모델 소식을 읽는 눈은 하나면 됩니다. 큰일을 맡길지가 아니라 작은 일을 얼마나 값싸게 맡길지를 묻는 겁니다. 이 글은 그 물음에 요금 구간과 측정 기록, 현장 증언을 나란히 놓고 답했습니다. 반복 작업의 비용 곡선이 꺾이는 지점이 어디인지 가늠하게 됩니다.

  • 반복 작업의 자리는 요약과 압축, 질의와 분류, 보조 에이전트라는 목록으로 확인됩니다.
  • 요금은 10만 토큰 기준 두 구간과 90퍼센트, 50퍼센트, 75퍼센트 세 수치의 관계로 읽힙니다.
  • 측정은 시험지마다 기준이 다르므로 이전 세대 대비 상승폭부터 따져봅니다.
  • 한 줄 정리: 작은 AI의 값어치는 작은 일을 대신하는 자리에서 정해지고, 남은 질문은 어디까지 맡길 것인가입니다.

자주 묻는 질문

Haiku 5.5는 어떤 일을 할 때 쓰면 좋은 모델인가요?

짧고 자주 반복되는 일을 맡길 때 어울립니다. 요약과 문맥 압축, 데이터베이스 질의와 분류가 대표적이고, 코딩 보조나 빠른 고객 응대, 브라우저 조작도 발표가 꼽은 자리입니다. 여러 단계를 엮는 복잡한 코딩은 큰 모델 몫으로 남겨두는 편이 맞습니다.

추론 노력 조절이라는 건 무엇을 고르는 기능인가요?

작업마다 비용과 성능의 저울추를 옮기는 장치입니다. 빨리 값싸게 처리할지, 시간을 들여 똑똑하게 풀지를 고르는 것으로 이해하면 됩니다. Haiku 계열에서는 처음 들어간 기능이라 발표가 따로 강조한 대목입니다.

75% 저렴하다는 건 요금이 4분의 1이 됐다는 뜻인가요?

그렇게 읽으면 곤란합니다. 요금표 인하율은 10만 토큰 이하 90퍼센트와 초과 구간 50퍼센트로 나뉘고, 75퍼센트는 토큰 사용량 변화까지 섞은 평균 실행 비용입니다. 이전 요청의 약 90퍼센트가 이하 구간에 있었다는 전제가 붙어 있으니, 체감은 쓰는 길이에 따라 달라집니다.

10만 토큰을 넘으면 오히려 비싸지는 것 아닌가요?

그렇게 읽으면 곤란합니다. 초과 구간 요금이 이하 구간보다 높은 건 맞지만, 이전 세대 요금과 비교하면 초과 구간도 절반 수준입니다. 논쟁이 되는 지점은 10만이라는 기준이 낮게 느껴진다는 대목이지, 이전보다 비싸졌다는 뜻이 아닙니다. 쓰는 길이가 기준을 넘나드는지부터 재보는 순서가 맞습니다.

Max 구독 크레딧으로 API 실험을 할 때 어디서 조건을 확인하나요?

Claude 지원센터의 API 크레딧 안내에서 확인하시길 권합니다. Max 5x 월 100달러와 Max 20x 월 200달러, Team 공동 최대 월 500달러라는 액수는 발표에 나와 있고, 쓸 수 있는 범위와 순차 제공 일정 같은 조건은 안내 문서가 기준입니다. 모든 모델에 쓸 수 있다는 설명도 발표에 포함돼 있습니다.

함께 보면 좋은 글

왜 알아두면 좋은가 — 창가에서 보고서를 읽으며 관점을 정리하는 장면, AI inference pricing, token

참고 자료

PalanK 서비스와 함께 더 빠르게

소상공인 AI 자동화 전체 보기 — PalanK AI 솔루션

PalanK AI 솔루션 보기