LLM 사용 비용 분석기

이 분석기가 읽는 것

제공업체는 사용량을 두 가지 형태로 전달하며 이 페이지는 둘 다 읽습니다. 첫 번째는 제공업체 콘솔의 CSV 내보내기로, 날짜·모델·API 키마다 한 행에 입력 토큰, 출력 토큰, 캐시 토큰, 요청 수, 때로는 비용 열이 있습니다. 두 번째는 OpenAI 사용량 API JSON으로, 시간 버킷의 data 배열을 가진 객체이며 각 버킷은 그 API가 반환하는 n_ 접두사 토큰 수와 함께 모델별 결과를 담습니다. 열 이름은 제공업체마다 다르고 콘솔 버전마다 바뀌므로 파서는 고정 레이아웃을 요구하지 않습니다: 각 헤더를 정규화하고 OpenAI, Anthropic 및 일반 내보내기가 실제로 사용하는 이름과 대조하며, 무엇이든 계산하기 전에 결과 매핑을 보여줍니다.

그 매핑 단계는 의도적입니다. 자동 감지는 일반적인 내보내기를 올바르게 처리하지만, 이름이 바뀐 열이나 제공업체 고유의 추가 필드는 출력 토큰을 입력 토큰 자리에 조용히 넣을 수 있습니다 — 열이 바뀐 위에 세운 비용 보고서는 틀렸으면서도 그럴듯해 보입니다. 결과 위의 선택기는 어떤 열이 어떤 필드에 들어가는지 정확히 보여주며 감지된 매핑으로 미리 설정되어 있고, 어느 것이든 수정해 다시 실행할 수 있습니다. 날짜를 읽을 수 없거나 입력·출력 값이 숫자가 아닌 행은 추측하지 않고 건너뛰어 결과에 셉니다: 작지만 정직한 합계가 크지만 지어낸 합계보다 낫고, 건너뜀 수는 파일의 얼마나 살아남지 못했는지 알려줍니다.

비용이 계산되는 방식 — 그리고 무엇을 찾아야 하는지

파일에 자체 비용 열이 있으면 그 수치를 그대로 사용합니다: 제공업체가 청구한 것이며 어떤 재계산도 청구서를 개선하지 못합니다. 비용 열이 없으면 각 행은 이 사이트 자체의 LLM 가격 표에서 가격이 매겨집니다 — 비용 계산기 뒤에 있는 동일한 검증 요금을 사용하고 제공업체의 공식을 씁니다: 캐시되지 않은 입력은 입력 요금, 캐시된 입력은 모델이 제공할 경우 캐시 요금, 출력은 출력 요금입니다. 모델은 정확한 API id 또는 표시 이름으로 대조되며 제공업체 접두사와 말미의 날짜 또는 “latest” 접미사는 허용합니다 — 그보다 느슨한 대조는 하지 않습니다. 결과 배너는 돈이 어디서 왔는지 말합니다: 파일, 계산, 혼합 또는 없음. 청구서를 읽는지 추정치를 읽는지 항상 알 수 있습니다.

가격표의 어떤 것과도 일치하지 않는 모델은 가격 없음으로 나열되며 절대 추측하지 않습니다. 이는 들리는 것보다 중요합니다: 사용량 파일에는 일상적으로 파인튜닝, 프리뷰 id, 지원 중단된 스냅샷, 실제 가격이 계약에 달린 타사 배포가 포함되며, 그것들에 요금을 지어내면 정직하게 가격이 매겨진 모든 모델의 합계를 오염시킵니다. 가격이 없는 모델도 토큰 수와 요청 수를 합계에 기여하고 그 볼륨과 함께 자체 목록에 나타나므로, 추정이 커버하지 못하는 트래픽의 범위를 정확히 볼 수 있습니다 — 그 부분이 크면 직접 가격을 매길 수 있습니다.

어느 사용량 파일에서든 찾을 가치가 있는 세 가지 패턴이 있고, 이 페이지의 모델별·일별 표는 그것들을 드러내도록 만들어졌습니다. 반복 프롬프트가 있는 워크로드에서 캐시 토큰 비율이 0에 가깝다면 프롬프트 캐싱이 꺼져 있거나, 잘못 구성되었거나, 변하는 접두사에 패배하고 있다는 뜻입니다 — 대개 가장 저렴한 수정입니다. 요청 수가 평평한데 모델 구성이 비싼 등급으로 기우는 경우 — 작은 모델도 동등하게 처리하는 질문에 플래그십 모델이 답하는 경우 — 는 한 모델의 비용 점유율 상승으로 나타납니다. 그리고 폭주한 키나 루프는 일별 표에 급증으로 나타나며, 대개 주말이나 밤에 주변 날짜보다 훨씬 높은 요청 수를 동반합니다. 동반 가이드 LLM 사용량 파일을 분석하는 방법은 각 패턴과 대처법을 차례로 설명합니다.

이 페이지가 보여주는 다섯 가지 사실

자주 묻는 질문