본문 바로가기
성공지식백과 로고성공지식백과
블로그자동화

AI API 비용이 예상보다 커지는 이유: 입력·출력·도구·반복 실행

화면에 보이는 답변 길이만으로는 API 청구액을 설명하기 어렵습니다. 한 업무를 끝내는 동안 반복해서 전달한 자료와 도구 실행까지 묶어 보면 비용이 늘어난 구간을 찾을 수 있습니다.

API 비용토큰 과금프롬프트 캐시AI 자동화
글 정성준 6분 읽기
공유:

짧은 요약문 하나를 받았어도 그 뒤에서는 긴 문서 읽기, 검색, 초안 생성, 수정 호출이 이어졌을 수 있습니다. 앤트로픽(Anthropic)의 Claude API 요금 문서는 도구를 쓸 때 입력·출력 토큰과 일부 서버 도구의 사용량을 함께 과금한다고 설명합니다. 최종 답변의 글자 수만 보면 이 과정의 사용량이 빠집니다.

청구액을 조사할 때는 ‘보고서 한 건’ 같은 업무 단위와 그 업무에 속한 API 요청을 연결합니다. 모델 이름만 남긴 기록으로는 자료가 길어졌는지, 호출이 늘었는지, 다른 도구 비용이 붙었는지를 나누기 어렵습니다.

단가를 곱하기 전에 과금 항목을 나누기

과금표의 단위부터 기록합니다. 100만 토큰당 금액, 검색 요청당 금액, 이미지 한 장당 금액, 실행 시간당 금액은 계산 분모가 서로 다릅니다. 구글의 Gemini API 요금표에도 모델과 기능에 따라 입력·출력 토큰, 이미지, 음성·영상, 검색, 캐시 보관 등의 항목이 나뉘어 있습니다. 실제 사용할 모델·엔드포인트의 행을 골라야 계산을 시작할 수 있습니다.

다음 표는 요금표를 원장에 옮길 때 확인할 항목입니다. 한 요청에 적용할 항목은 제공되는 기능과 계약에 맞춰 고릅니다.

확인할 항목요금표에서 읽을 내용사용량 기록에서 읽을 내용흔한 계산 오류
일반 입력단위당 금액, 길이 구간 조건이번 요청의 과금 대상 입력원본 문서 한 번 분량만 계산
캐시쓰기·읽기·보관의 구분실제 캐시 적중과 생성량입력 합계와 캐시를 중복 합산
출력추론 사용량의 포함 여부화면 출력과 과금 출력의 관계보이는 답변 토큰만 사용
이미지·음성·영상토큰·장수·초 등 적용 단위크기·길이 등 해당 사용량텍스트 단가를 일괄 적용
도구·실행 환경요청·시간·저장량 등 별도 단위검색 횟수, 실행 시간 등모델 토큰에 모두 포함됐다고 판단
경로·처리 방식표준·일괄·우선 처리 등 조건실제 요청에 적용된 경로다른 서비스나 계약의 단가 사용

출력 항목에 추론 토큰이 이미 포함돼 있으면 추론량을 다시 더하지 않습니다. 입력 합계에 캐시 토큰이 포함되는지도 따로 확인합니다. 사용량 응답의 이름이 비슷해도 합계 필드와 세부 필드의 관계는 API마다 다릅니다.

과금 단위가 100만 토큰이라면 해당 항목의 금액은 ‘과금 대상 토큰 수 ÷ 1,000,000 × 해당 단가’로 계산합니다. 이 계산을 서로 겹치지 않는 항목별로 수행한 뒤 도구·보관·실행 비용을 더합니다. 통화, 세금, 크레딧, 약정 할인은 구분해서 대조할 수 있도록 별도로 적습니다.

같은 문서가 다음 호출에서도 입력이 되는 구조

문서를 한 번 업로드했는지와 모델이 처리한 입력량은 구별할 필요가 있습니다. 같은 원문과 이전 대화를 매 요청에 넣는 구성에서는 뒤의 요청도 그 내용을 입력으로 받습니다. 구글의 Gemini API 토큰 계수 문서는 요청 전 입력 계수와 응답의 실제 사용량을 구분하고, 여러 차례 상호작용의 사용량 예시를 제공합니다.

다음은 반복 입력을 설명하는 가상 계산입니다. 원문과 공통 지시를 합친 입력을 4,500토큰으로 놓고, 매번 그 입력과 앞서 만든 답변 전체를 다시 보내며 캐시·추론·도구 사용량은 제외했습니다. 실제 문서를 토크나이저로 측정하거나 API를 실행한 결과는 아닙니다.

요청수행한 단계입력에 다시 넣는 내용입력 토큰출력 토큰
R1초안 생성원문과 공통 지시4,500400
R2사실 점검기본 입력과 R1 출력4,900300
R3표현 수정기본 입력과 R1·R2 출력5,200200
합계업무 한 건요청 3개의 합14,600900

한 번의 호출만 계산하면 빠지는 사용량을 작업 합계에서 찾을 수 있습니다. 긴 원문을 매번 보낼 필요가 있는지, 수정 단계에는 관련 부분과 점검 기준만 전달해도 되는지 판단할 수 있습니다. 필요한 근거까지 빼면 재작업이 늘어날 수 있으므로, 입력 축소 뒤에는 같은 품질 기준으로 결과를 다시 확인합니다.

파일 참조, 대화 저장, 자동 요약 기능이 있는 API도 실제 청구 방식은 해당 기능의 문서와 응답 사용량으로 확인합니다. 화면에서 이전 대화가 접혔거나 파일이 한 번만 표시된다는 사실만으로 과금 입력이 줄었다고 계산하지 않습니다.

캐시와 도구 사용량을 응답 기록에 연결하기

캐시 설정을 켰다는 기록과 캐시가 적중한 기록은 다릅니다. 앤트로픽의 프롬프트 캐시 문서는 캐시 생성·읽기·일반 입력을 사용량 필드로 나누며, 재사용할 내용의 일치와 최소 길이 같은 조건도 설명합니다. 캐시가 빗나간 원인을 찾으려면 입력이 바뀐 위치와 실제 사용량을 함께 봅니다.

이 문서에서 cache_creation_input_tokens는 캐시에 쓴 토큰, cache_read_input_tokens는 캐시에서 읽은 토큰, input_tokens는 그 둘에 속하지 않는 입력입니다. 이 API의 입력 합계는 세 필드의 합입니다. 이 관계를 다른 공급자의 필드에 그대로 적용하지 않고, 원장에 공급자별 대응 규칙을 남깁니다.

도구는 별도 요금과 토큰을 동시에 발생시킬 수 있습니다. Claude API의 도구 과금 설명은 도구 이름·설명·스키마, 도구 호출, 도구 결과가 토큰 사용량에 영향을 준다고 명시합니다. 검색 도구는 검색 사용량이 따로 잡히고, 가져온 검색 결과가 다음 모델 입력에도 들어갈 수 있습니다.

모든 도구 결과를 다음 호출 입력에 통째로 넣으면 검색 한 번의 영향이 뒤의 여러 요청에 남습니다. 결과에서 작업에 필요한 근거를 고르는 단계와 원문을 보관하는 단계를 분리하면, 근거를 되찾을 수 있게 유지하면서 모델에 전달하는 분량을 조절할 수 있습니다. 외부 검색 서비스가 따로 청구하는 금액도 해당 작업에 연결합니다.

재시도를 포함한 요청·작업 비용 원장

업무 한 건에 작업 ID를 붙이고 실제 네트워크 요청마다 요청 ID를 남깁니다. 재시도는 시도 번호와 재시도한 계층을 기록합니다. 앱이 한 번 호출했어도 SDK나 중계 서비스가 추가 요청을 보냈다면, 앱의 호출 횟수만으로 비용 원인을 설명하기 어렵습니다.

다음은 실제 사용량을 채워 쓰는 원장 양식입니다. 예시 ID는 가상이며, 한 행에 한 요청의 특정 과금 항목을 적는 구조입니다. 단가는 그 요청에 적용된 요금표의 URL·확인 시각·조건과 연결합니다.

작업·요청 ID단계·시도·종료 상태과금 항목·단위실제 사용량단가·적용 조건항목 금액·근거
작업 A·R1초안·첫 시도·완료일반 입력·토큰응답의 해당 필드모델·처리 경로별 단가계산액·응답 기록 위치
작업 A·R1초안·첫 시도·완료캐시 읽기·토큰캐시 응답 필드읽기 단가와 포함 관계계산액·캐시 기록 위치
작업 A·R1초안·첫 시도·완료출력·토큰추론 포함 관계 확인출력 단가계산액·응답 기록 위치
작업 A·R2검색·첫 시도·완료도구·요청실제 도구 사용량도구 단가와 무료 구간계산액·도구 기록 위치
작업 A·R3수정·재시도·실패확인된 과금 항목확인값 또는 확인 대기오류 시 과금 규칙확정액 또는 대조 대기

응답을 받지 못한 요청은 사용량 0으로 채우지 않고 ‘확인 대기’로 남깁니다. 오류 종류와 실행 시작 여부에 따른 과금 규칙은 공급자마다 다를 수 있습니다. 앱 기록, 공급자 사용량 화면, 최종 청구 내역을 대조한 뒤 확정합니다. 추정액과 확정액을 분리하면 미확인 요청이 합계에서 사라지는 일을 줄일 수 있습니다.

입력·출력의 실제 내용에는 업무 비밀이 섞일 수 있습니다. 비용 원장에는 사용량, 식별자, 원본을 찾을 수 있는 제한된 경로를 우선 남기고, 모든 프롬프트와 도구 결과를 공개 로그에 복사하지 않습니다. 비용 조사를 위한 기록도 접근 범위와 보관 기한을 정합니다.

절감 변경은 품질과 재작업까지 비교하기

비용 증가는 ‘작업 건수가 늘어난 경우’, ‘작업당 요청이 늘어난 경우’, ‘요청당 사용량이 늘어난 경우’, ‘적용 단가가 달라진 경우’로 나눠 봅니다. 사용량이 같은데 청구액이 달라졌다면 모델·경로·계약·크레딧 조건을 먼저 대조합니다. 요청당 입력이 늘었다면 공통 지시, 대화 이력, 도구 결과 중 증가한 항목을 찾습니다.

같은 입력 사례와 통과 기준을 고정해 변경 전후를 비교합니다. 답변에 필수 항목이 있는지, 근거와 수치가 맞는지, 사람이 수정해야 하는 부분이 무엇인지 기록하고 요청 수·사용량·완료 시간을 함께 남깁니다. 첫 호출이 저렴해졌어도 실패 뒤 수정 호출이 늘었다면 작업당 비용에서 다시 계산합니다.

운영 한도도 요청과 작업으로 나눕니다. 요청에는 출력 상한과 허용할 도구를, 작업에는 총 호출 수·도구 실행 수·누적 비용의 중단 기준을 둡니다. 예산에 도달하면 검증된 중간 결과와 남은 일을 보존하고 중단하는 방식이 필요합니다. 제공자 화면의 알림·한도가 실제 요청 차단인지, 어떤 지연과 범위가 있는지도 확인합니다.

비용이 급증한 작업부터 요청 원장을 채우는 방법을 권합니다. 단가표를 바꾸기 전에 반복 입력과 재실행을 설명할 수 있어야, 비용을 줄인 변경이 결과의 정확성과 업무 완료율을 유지했는지 판단할 수 있습니다.

자료 확인 기준: 2026년 10월 28일 UTC. 공급자의 과금 항목·사용량 필드·캐시 조건은 바뀔 수 있습니다.

관련 글