Трекер расходов AI API: отслеживание трат по заголовкам
Вы можете создать трекер расходов на AI API примерно за пятьдесят строк, потому что каждый ответ уже содержит информацию о вашем оставшемся балансе. Это руководство показывает, как логировать расходы на каждый запрос, считывать данные с эндпоинтов баланса и отправлять уведомление, прежде чем закончатся средства.


Ключевые моменты
- Каждый ответ содержит заголовок X-Balance-USD с вашим оставшимся балансом.
- GET /v1/balance и эндпоинт credit_grants возвращают баланс по запросу.
- Стоимость одного вызова равна (input × 0,15 + output × 0,50) / 1 000 000 долларов.
- Логгируйте в CSV, затем отправляйте уведомление, когда баланс падает ниже порога.
Откуда берутся цифры
Предоплаченный баланс упрощает отслеживание расходов, так как провайдер уже ведет общий учет. Вы можете получить его в трех местах:
- Заголовок ответа
X-Balance-USDпри вызовах API, показывающий, что осталось после запроса. GET /v1/balance, простой запрос на получение баланса.GET /v1/dashboard/billing/credit_grants, маршрут в стиле OpenAI, который уже умеют вызывать такие инструменты, как дашборды и обертки.
Помимо этого, каждый ответ завершения содержит объект usage с количеством токенов промпта и завершения. Умножьте токены на цены ($0,15 за 1 млн вводных, $0,50 за 1 млн выводных) и вы сможете самостоятельно вычислить стоимость любого запроса, а затем сравнить ее с падением баланса. Эти значения должны совпадать. Если они не совпадают, вы нашли то, что стоит расследовать. Полные сведения о параметрах см. в документации.
Считывание заголовка за один запрос
С помощью curl добавьте -i и посмотрите на заголовки:
curl -si https://api.uncensoredaiapis.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"uncensored","messages":[{"role":"user","content":"Say hi."}]}' \
| grep -i "x-balance-usd"
В Python SDK OpenAI открывает сырые ответы через with_raw_response, который предоставляет заголовки и распарсенный объект вместе:
from openai import OpenAI
client = OpenAI(base_url="https://api.uncensoredaiapis.com/v1", api_key="sk-your-key")
raw = client.chat.completions.with_raw_response.create(
model="uncensored",
messages=[{"role": "user", "content": "Say hi."}],
)
resp = raw.parse()
print(raw.headers.get("x-balance-usd"), resp.usage.total_tokens)Небольшой логгер, записывающий каждый вызов
Оберните свои вызовы в одну функцию и записывайте строку в CSV каждый раз. Строка содержит время, идентификатор запроса, количество токенов, вычисленную стоимость и баланс.
import csv, time
from openai import OpenAI
client = OpenAI(base_url="https://api.uncensoredaiapis.com/v1", api_key="sk-your-key")
PRICE_IN, PRICE_OUT = 0.15, 0.50 # dollars per 1M tokens
LOG = "api_spend.csv"
def cost(usage):
return (usage.prompt_tokens * PRICE_IN + usage.completion_tokens * PRICE_OUT) / 1_000_000
def tracked_chat(messages, tag="default"):
raw = client.chat.completions.with_raw_response.create(
model="uncensored", messages=messages)
r = raw.parse()
row = [
time.strftime("%Y-%m-%d %H:%M:%S"),
raw.headers.get("x-request-id"),
tag,
r.usage.prompt_tokens,
r.usage.completion_tokens,
round(cost(r.usage), 6),
raw.headers.get("x-balance-usd"),
]
with open(LOG, "a", newline="") as f:
csv.writer(f).writerow(row)
return r, row
Аргумент tag — это трюк, который делает лог полезным. Передайте имя функции, например «summaries» или «chat», и позже вы сможете суммировать затраты по тегам, чтобы увидеть, какая часть продукта расходует деньги. Идентификатор запроса поможет, если вам когда-нибудь понадобится узнать о списании средств или сообщить о проблеме, поскольку он идентифицирует конкретный вызов.
Проверка математики
Рассмотрим вызов с 2 400 вводными токенами и 600 выводными токенами:
- Ввод: 2 400 x 0,15 / 1 000 000 = $0,00036
- Вывод: 600 x 0,50 / 1 000 000 = $0,00030
- Итого: $0.00066
Тысяча таких вызовов стоит $0,66. Если в CSV баланс падает значительно быстрее, чем сумма вычисленных расходов, проверьте повторные попытки, которые вы не записали, фоновые задачи, использующие тот же ключ, или открытые потоки. Ошибочные или отклоненные запросы не оплачиваются, поэтому ошибки не должны изменять баланс. Сравнивайте итоги за множество вызовов, а не одиночные, чтобы небольшие погрешности округления усреднялись.
Потоковые вызовы и использование
С stream: true данные об использовании поступают в конце потока. Соберите их из последнего фрагмента, затем запишите строку после закрытия потока.
def tracked_stream(messages, tag="chat"):
usage = None
for chunk in client.chat.completions.create(
model="uncensored", messages=messages, stream=True):
if chunk.choices and chunk.choices[0].delta.content:
yield chunk.choices[0].delta.content
usage = getattr(chunk, "usage", None) or usage
if usage:
with open(LOG, "a", newline="") as f:
csv.writer(f).writerow([time.strftime("%F %T"), "", tag,
usage.prompt_tokens, usage.completion_tokens, round(cost(usage), 6), ""])
Если вам нужен только баланс, вызовите GET /v1/balance после завершения потока. Это дешевый запрос, который также работает как периодическая проверка из cron-задачи.
Суммирование расходов по функциям
CSV полезен только если его читать. Этот короткий скрипт суммирует стоимость по тегам и показывает последний баланс без дополнительных пакетов.
import csv
from collections import defaultdict
totals, last_balance = defaultdict(float), None
with open("api_spend.csv") as f:
for row in csv.reader(f):
ts, req_id, tag, pin, pout, cost_usd, balance = row
totals[tag] += float(cost_usd)
last_balance = balance or last_balance
for tag, usd in sorted(totals.items(), key=lambda kv: -kv[1]):
print(f"{tag:15s} ${usd:.4f}")
print("latest balance:", last_balance)
Запускайте его ежедневно и вставляйте вывод в канал вашей команды. Расходы, которые были невидимы, становятся числом, которое люди могут обсудить, а функция, которая стоит в десять раз больше других, сразу выделяется. Для грубого бюджета умножьте дневной итог на 30 и добавьте 20 процентов запаса прочности.
Добавление уведомления о низком балансе
Исчерпание баланса в середине рабочего дня выводит продукт из строя, поэтому предупреждайте заранее. Достаточно cron-задачи, которая запускается каждые 15 минут.
import requests
BASE = "https://api.uncensoredaiapis.com/v1"
THRESHOLD = 5.00 # dollars
r = requests.get(BASE + "/balance", headers={"Authorization": "Bearer sk-your-key"}, timeout=10)
print(r.status_code, r.text) # inspect the JSON once to see the field name
# After you know the field name, parse it and compare with THRESHOLD,
# then post to your chat webhook or send an email.
Выведите сырой JSON один раз и посмотрите на него, прежде чем писать код парсинга. Истинное имя поля занимает десять секунд на проверку, а угадывание его по статье может привести к тихому сбою оповещения. Выберите порог, который покрывает как минимум один день обычных расходов, что показывает CSV: сложите стоимость за вчерашний день и используйте её в качестве минимума.
Когда срабатывает уведомление, пополните баланс. Подходит любая целая сумма от $20 до $500, с бонусом +5% от $50, +10% от $100 и +15% от $200, и средства не сгорают. Чтобы сначала получить ключ для трекера, используйте страницу API-ключ.
Привычки для предсказуемости расходов
- Используйте один ключ для каждой среды, чтобы тестовый трафик никогда не скрывался в числах продакшена.
- Ограничьте
max_tokensна эндпоинтах, где длинные ответы не нужны. По умолчанию это опционально, поэтому возможны ответы без ограничений. - Обрезайте историю чата. Вводные токены дешевле выводных, но длинная история, повторяющаяся при каждом ходе, накапливается.
- Просматривайте недельный итог по тегам и ищите тот тег, который составляет более половины счета.
Еще одна привычка: сохраняйте идентификатор запроса с каждой записью лога. Если через месяц число покажется неверным, вы сможете сопоставить его с конкретным вызовом, а не спорить на основе средних значений. Поскольку ошибочные запросы не оплачиваются, повторные попытки при ошибках не добавляют расходов, но повторные попытки после успешного ответа добавляют, поэтому убедитесь, что ваша логика повторных попыток срабатывает только при реальных ошибках. Баг, который зацикленно повторяет успешный запрос, — самая частая причина неожиданного счета в любом API с оплатой за токен.
Дополнительные руководства
Вопросы и ответы
Появляется ли заголовок баланса в каждом ответе?
Заголовок X-Balance-USD входит в список заголовков ответа для этого API. Считывайте его из сырого ответа и считайте отсутствующее значение неизвестным.
Можно ли узнать стоимость без логирования каждого запроса?
Да. Опрашивайте GET /v1/balance по расписанию и вычисляйте разницу между показаниями.
Изменяют ли отказавшие запросы баланс?
Нет. За неудачные или отклонённые запросы плата не взимается.
Какой эндпоинт должен использовать инструмент из существующей панели OpenAI?
Используйте маршрут GET /v1/dashboard/billing/credit_grants в стиле OpenAI, который уже поддерживается многими инструментами.
Ваш ключ — всего в одной форме
Создайте аккаунт, скопируйте ключ, измените базовый URL. Это вся настройка.