Tracker kosztów AI API: Monitoruj wydatki za pomocą nagłówków
Możesz zbudować tracker kosztów AI API w około pięćdziesięciu liniach, ponieważ każda odpowiedź informuje Cię o pozostałym saldzie. Ten poradnik pokazuje, jak logować wydatki na zapytanie, odczytywać endpointy salda i uruchamiać alert przed wyczerpaniem kredytu.


Kluczowe punkty
- Każda odpowiedź zawiera nagłówek X-Balance-USD z informacją o pozostałym kredycie.
- GET /v1/balance i endpoint credit_grants zwracają saldo na żądanie.
- Koszt jednego wywołania to (input x 0.15 + output x 0.50) / 1 000 000 dolarów.
- Loguj do CSV, a następnie uruchom alert, gdy saldo spadnie poniżej progu.
Skąd pochodzą liczby
Przedpłacony kredyt ułatwia śledzenie kosztów, ponieważ dostawca już prowadzi ciągły rachunek. Otrzymujesz go w trzech miejscach:
- Nagłówek odpowiedzi
X-Balance-USDw zapytaniach API pokazuje, co zostało po zapytaniu. GET /v1/balance— proste sprawdzenie salda.GET /v1/dashboard/billing/credit_grants— trasa w stylu OpenAI, znana narzędziom takim jak dashboardy i wrapper.
Obok tego każde completion zwraca obiekt usage z liczbą tokenów prompt i completion. Połącz tokeny z cenami ($0,15 za 1M input, $0,50 za 1M output) i oblicz koszt dowolnego zapytania samodzielnie, a następnie porównaj go ze spadkiem salda. Powinny się zgadzać. Jeśli nie, znalazłeś temat do zbadania. Pełne szczegóły parametrów znajdziesz w dokumentacji.
Odczytaj nagłówek w jednym zapytaniu
W curl dodaj -i i sprawdź nagłówki:
curl -si https://api.uncensoredaiapis.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"uncensored","messages":[{"role":"user","content":"Say hi."}]}' \
| grep -i "x-balance-usd"
W Pythonie SDK OpenAI udostępnia surowe odpowiedzi przez with_raw_response, co daje Ci nagłówki i zparseowany obiekt jednocześnie:
from openai import OpenAI
client = OpenAI(base_url="https://api.uncensoredaiapis.com/v1", api_key="sk-your-key")
raw = client.chat.completions.with_raw_response.create(
model="uncensored",
messages=[{"role": "user", "content": "Say hi."}],
)
resp = raw.parse()
print(raw.headers.get("x-balance-usd"), resp.usage.total_tokens)Mały logger rejestrujący każde wywołanie
Zawijaj swoje wywołania w jedną funkcję i zapisuj wiersz w CSV za każdym razem. Wiersz zawiera czas, ID zapytania, liczbę tokenów, obliczony koszt i saldo.
import csv, time
from openai import OpenAI
client = OpenAI(base_url="https://api.uncensoredaiapis.com/v1", api_key="sk-your-key")
PRICE_IN, PRICE_OUT = 0.15, 0.50 # dollars per 1M tokens
LOG = "api_spend.csv"
def cost(usage):
return (usage.prompt_tokens * PRICE_IN + usage.completion_tokens * PRICE_OUT) / 1_000_000
def tracked_chat(messages, tag="default"):
raw = client.chat.completions.with_raw_response.create(
model="uncensored", messages=messages)
r = raw.parse()
row = [
time.strftime("%Y-%m-%d %H:%M:%S"),
raw.headers.get("x-request-id"),
tag,
r.usage.prompt_tokens,
r.usage.completion_tokens,
round(cost(r.usage), 6),
raw.headers.get("x-balance-usd"),
]
with open(LOG, "a", newline="") as f:
csv.writer(f).writerow(row)
return r, row
Argument tag to mechanizm, który sprawia, że log jest użyteczny. Przekaż nazwę funkcji, np. "summaries" lub "chat", a później możesz zsumować koszty według tagów, aby zobaczyć, która część produktu pochłania pieniądze. ID zapytania przyda się, jeśli kiedykolwiek będziesz musiał zapytać o opłatę lub zgłosić problem, ponieważ identyfikuje ono konkretne wywołanie.
Weryfikacja obliczeń
Weź pod uwagę zapytanie z 2 400 tokenami wejściowymi i 600 tokenami wyjściowymi:
- Input: 2400 x 0,15 / 1 000 000 = $0,00036
- Output: 600 x 0,50 / 1 000 000 = $0,00030
- Razem: $0,00066
Tysiąc takich zapytań kosztuje $0,66. Jeśli Twój CSV pokazuje spadek salda znacznie szybciej niż suma obliczonych kosztów, sprawdź ponowienia, których nie zlogowałeś, zadania w tle używające tego samego klucza lub strumienie, które zostawiłeś otwarte. Nieudane lub odrzucone zapytania nie są rozliczane, więc błędy nie powinny zmieniać salda. Porównuj sumy przy wielu zapytaniach, nie pojedynczych, aby drobne różnice zaokrągleń się znosiły.
Wywołania strumieniowe i użycie
Dzięki stream: true, liczby użycia docierają na końcu strumienia. Zbierz je z ostatniego fragmentu, a następnie zaloguj wiersz po zamknięciu strumienia.
def tracked_stream(messages, tag="chat"):
usage = None
for chunk in client.chat.completions.create(
model="uncensored", messages=messages, stream=True):
if chunk.choices and chunk.choices[0].delta.content:
yield chunk.choices[0].delta.content
usage = getattr(chunk, "usage", None) or usage
if usage:
with open(LOG, "a", newline="") as f:
csv.writer(f).writerow([time.strftime("%F %T"), "", tag,
usage.prompt_tokens, usage.completion_tokens, round(cost(usage), 6), ""])
Jeśli potrzebujesz tylko salda, wywołaj GET /v1/balance po zakończeniu strumienia. To tanie zapytanie, które działa również jako okresowe sprawdzenie z zadania cron.
Sumowanie wydatków według funkcji
CSV jest użyteczny tylko wtedy, gdy go odczytujesz. Ten krótki skrypt sumuje koszt według tagów i pokazuje najnowsze saldo, bez dodatkowych pakietów.
import csv
from collections import defaultdict
totals, last_balance = defaultdict(float), None
with open("api_spend.csv") as f:
for row in csv.reader(f):
ts, req_id, tag, pin, pout, cost_usd, balance = row
totals[tag] += float(cost_usd)
last_balance = balance or last_balance
for tag, usd in sorted(totals.items(), key=lambda kv: -kv[1]):
print(f"{tag:15s} ${usd:.4f}")
print("latest balance:", last_balance)
Uruchamiaj go codziennie i wklejaj wynik na kanał zespołowy. Wydatki, które były niewidoczne, stają się liczbą, którą ludzie mogą omawiać, a funkcja kosztująca dziesięciokrotnie więcej od innych rzuca się w oczy od razu. Dla przybliżonego budżetu pomnóż dzienną sumę przez 30 i dodaj 20 procent rezerwy.
Dodaj alert przy niskim saldzie
Wyczerpanie kredytu w połowie dnia wyłącza produkt, więc alertuj wcześnie. Wystarczy zadanie cron uruchamiane co 15 minut.
import requests
BASE = "https://api.uncensoredaiapis.com/v1"
THRESHOLD = 5.00 # dollars
r = requests.get(BASE + "/balance", headers={"Authorization": "Bearer sk-your-key"}, timeout=10)
print(r.status_code, r.text) # inspect the JSON once to see the field name
# After you know the field name, parse it and compare with THRESHOLD,
# then post to your chat webhook or send an email.
Wypisz surowy JSON raz i przejrzyj go przed napisaniem kodu parsującego. Rzeczywista nazwa pola zajmie Ci kilka sekund na sprawdzenie, a zgadywanie jej z artykułu może cicho zepsuć alert. Wybierz próg, który obejmuje co najmniej dzień normalnych wydatków, co mówi Ci CSV: zsumuj koszt z wczoraj i użyj go jako minimum.
Kiedy zadziała alert, doładuj. Każda kwota całkowita od $20 do $500 działa, z +5% kredytu od $50, +10% od $100 i +15% od $200, a kredyt nie wygasa. Aby najpierw uzyskać klucz dla trackera, użyj strony klucza API.
Nawyki zapewniające przewidywalność wydatków
- Używaj jednego klucza na środowisko, aby ruch testowy nigdy nie ukrywał się w liczbach produkcyjnych.
- Ogranicz
max_tokensna endpointach, gdzie nie są potrzebne długie odpowiedzi. Domyślnie jest opcjonalny, więc nieograniczone odpowiedzi są możliwe. - Przycinaj historię czatu. Tokeny wejściowe są tańsze niż wyjściowe, ale długa historia powtarzana w każdej turze się sumuje.
- Przejrzyj tygodniową sumę według tagów i szukaj tego tagu, który stanowi więcej niż połowę rachunku.
Jeszcze jeden nawyk: przechowuj ID zapytania przy każdym zalogowanym wierszu. Jeśli za miesiąc liczba będzie wyglądać źle, będziesz mógł dopasować ją do konkretnego wywołania, zamiast kłócić się na podstawie średnich. Ponieważ nieudane zapytania nie są rozliczane, ponowienia po błędach nie dodają kosztu, ale ponowienia po udanej odpowiedzi tak, więc upewnij się, że Twoja logika ponowień uruchamia się tylko przy prawdziwych błędach. Błąd, który ponownie wysyła udane zapytanie w pętli, jest najczęstszą przyczyną niespodziewanego rachunku w dowolnym API rozliczanym za tokeny.
Więcej przewodników
Pytania i odpowiedzi
Czy nagłówek salda pojawia się w każdej odpowiedzi?
Nagłówek X-Balance-USD jest częścią nagłówków odpowiedzi wymienionych dla tego API. Odczytaj go z surowej odpowiedzi i traktuj brakującą wartość jako nieznana.
Czy mogę uzyskać koszt bez logowania każdego zapytania?
Tak. Wywołuj GET /v1/balance cyklicznie i obliczaj różnicę między odczytami.
Czy nieudane zapytania zmieniają saldo?
Nie. Nieudane lub odrzucone zapytania nie są rozliczane.
Który endpoint powinien używać istniejące narzędzie z panelu OpenAI?
Użyj ścieżki GET /v1/dashboard/billing/credit_grants w stylu OpenAI, którą wiele narzędzi już obsługuje.
Twój klucz jest o jeden formularz stąd
Utwórz konto, skopiuj klucz, zmień bazowy URL. To cała konfiguracja.