PL ▾
Base URL https://api.uncensoredaiapis.com/v1Model uncensored
Pobierz klucz API
Uncensored AIPrzewodnik migracji

Tracker kosztów AI API: Monitoruj wydatki za pomocą nagłówków

Możesz zbudować tracker kosztów AI API w około pięćdziesięciu liniach, ponieważ każda odpowiedź informuje Cię o pozostałym saldzie. Ten poradnik pokazuje, jak logować wydatki na zapytanie, odczytywać endpointy salda i uruchamiać alert przed wyczerpaniem kredytu.

Zaktualizowano

Pływające panele dashboardu z opadającym wykresem i dzwonkiem alertu w kolorze bursztynowym, ilustrujące monitorowanie wydatków API
Pięć świetnych kamieni milowych prowadzących do sześcianu serwera, ilustrujące kroki rozpoczęcia pracy z API w stylu OpenAI

Kluczowe punkty

  • Każda odpowiedź zawiera nagłówek X-Balance-USD z informacją o pozostałym kredycie.
  • GET /v1/balance i endpoint credit_grants zwracają saldo na żądanie.
  • Koszt jednego wywołania to (input x 0.15 + output x 0.50) / 1 000 000 dolarów.
  • Loguj do CSV, a następnie uruchom alert, gdy saldo spadnie poniżej progu.

Skąd pochodzą liczby

Przedpłacony kredyt ułatwia śledzenie kosztów, ponieważ dostawca już prowadzi ciągły rachunek. Otrzymujesz go w trzech miejscach:

  • Nagłówek odpowiedzi X-Balance-USD w zapytaniach API pokazuje, co zostało po zapytaniu.
  • GET /v1/balance — proste sprawdzenie salda.
  • GET /v1/dashboard/billing/credit_grants — trasa w stylu OpenAI, znana narzędziom takim jak dashboardy i wrapper.

Obok tego każde completion zwraca obiekt usage z liczbą tokenów prompt i completion. Połącz tokeny z cenami ($0,15 za 1M input, $0,50 za 1M output) i oblicz koszt dowolnego zapytania samodzielnie, a następnie porównaj go ze spadkiem salda. Powinny się zgadzać. Jeśli nie, znalazłeś temat do zbadania. Pełne szczegóły parametrów znajdziesz w dokumentacji.

Odczytaj nagłówek w jednym zapytaniu

W curl dodaj -i i sprawdź nagłówki:

curl -si https://api.uncensoredaiapis.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Say hi."}]}' \
  | grep -i "x-balance-usd"

W Pythonie SDK OpenAI udostępnia surowe odpowiedzi przez with_raw_response, co daje Ci nagłówki i zparseowany obiekt jednocześnie:

from openai import OpenAI

client = OpenAI(base_url="https://api.uncensoredaiapis.com/v1", api_key="sk-your-key")

raw = client.chat.completions.with_raw_response.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Say hi."}],
)
resp = raw.parse()
print(raw.headers.get("x-balance-usd"), resp.usage.total_tokens)

Mały logger rejestrujący każde wywołanie

Zawijaj swoje wywołania w jedną funkcję i zapisuj wiersz w CSV za każdym razem. Wiersz zawiera czas, ID zapytania, liczbę tokenów, obliczony koszt i saldo.

import csv, time
from openai import OpenAI

client = OpenAI(base_url="https://api.uncensoredaiapis.com/v1", api_key="sk-your-key")
PRICE_IN, PRICE_OUT = 0.15, 0.50   # dollars per 1M tokens
LOG = "api_spend.csv"

def cost(usage):
    return (usage.prompt_tokens * PRICE_IN + usage.completion_tokens * PRICE_OUT) / 1_000_000

def tracked_chat(messages, tag="default"):
    raw = client.chat.completions.with_raw_response.create(
        model="uncensored", messages=messages)
    r = raw.parse()
    row = [
        time.strftime("%Y-%m-%d %H:%M:%S"),
        raw.headers.get("x-request-id"),
        tag,
        r.usage.prompt_tokens,
        r.usage.completion_tokens,
        round(cost(r.usage), 6),
        raw.headers.get("x-balance-usd"),
    ]
    with open(LOG, "a", newline="") as f:
        csv.writer(f).writerow(row)
    return r, row

Argument tag to mechanizm, który sprawia, że log jest użyteczny. Przekaż nazwę funkcji, np. "summaries" lub "chat", a później możesz zsumować koszty według tagów, aby zobaczyć, która część produktu pochłania pieniądze. ID zapytania przyda się, jeśli kiedykolwiek będziesz musiał zapytać o opłatę lub zgłosić problem, ponieważ identyfikuje ono konkretne wywołanie.

Weryfikacja obliczeń

Weź pod uwagę zapytanie z 2 400 tokenami wejściowymi i 600 tokenami wyjściowymi:

  • Input: 2400 x 0,15 / 1 000 000 = $0,00036
  • Output: 600 x 0,50 / 1 000 000 = $0,00030
  • Razem: $0,00066

Tysiąc takich zapytań kosztuje $0,66. Jeśli Twój CSV pokazuje spadek salda znacznie szybciej niż suma obliczonych kosztów, sprawdź ponowienia, których nie zlogowałeś, zadania w tle używające tego samego klucza lub strumienie, które zostawiłeś otwarte. Nieudane lub odrzucone zapytania nie są rozliczane, więc błędy nie powinny zmieniać salda. Porównuj sumy przy wielu zapytaniach, nie pojedynczych, aby drobne różnice zaokrągleń się znosiły.

Wywołania strumieniowe i użycie

Dzięki stream: true, liczby użycia docierają na końcu strumienia. Zbierz je z ostatniego fragmentu, a następnie zaloguj wiersz po zamknięciu strumienia.

def tracked_stream(messages, tag="chat"):
    usage = None
    for chunk in client.chat.completions.create(
            model="uncensored", messages=messages, stream=True):
        if chunk.choices and chunk.choices[0].delta.content:
            yield chunk.choices[0].delta.content
        usage = getattr(chunk, "usage", None) or usage
    if usage:
        with open(LOG, "a", newline="") as f:
            csv.writer(f).writerow([time.strftime("%F %T"), "", tag,
                usage.prompt_tokens, usage.completion_tokens, round(cost(usage), 6), ""])

Jeśli potrzebujesz tylko salda, wywołaj GET /v1/balance po zakończeniu strumienia. To tanie zapytanie, które działa również jako okresowe sprawdzenie z zadania cron.

Sumowanie wydatków według funkcji

CSV jest użyteczny tylko wtedy, gdy go odczytujesz. Ten krótki skrypt sumuje koszt według tagów i pokazuje najnowsze saldo, bez dodatkowych pakietów.

import csv
from collections import defaultdict

totals, last_balance = defaultdict(float), None
with open("api_spend.csv") as f:
    for row in csv.reader(f):
        ts, req_id, tag, pin, pout, cost_usd, balance = row
        totals[tag] += float(cost_usd)
        last_balance = balance or last_balance

for tag, usd in sorted(totals.items(), key=lambda kv: -kv[1]):
    print(f"{tag:15s} ${usd:.4f}")
print("latest balance:", last_balance)

Uruchamiaj go codziennie i wklejaj wynik na kanał zespołowy. Wydatki, które były niewidoczne, stają się liczbą, którą ludzie mogą omawiać, a funkcja kosztująca dziesięciokrotnie więcej od innych rzuca się w oczy od razu. Dla przybliżonego budżetu pomnóż dzienną sumę przez 30 i dodaj 20 procent rezerwy.

Dodaj alert przy niskim saldzie

Wyczerpanie kredytu w połowie dnia wyłącza produkt, więc alertuj wcześnie. Wystarczy zadanie cron uruchamiane co 15 minut.

import requests

BASE = "https://api.uncensoredaiapis.com/v1"
THRESHOLD = 5.00   # dollars

r = requests.get(BASE + "/balance", headers={"Authorization": "Bearer sk-your-key"}, timeout=10)
print(r.status_code, r.text)   # inspect the JSON once to see the field name
# After you know the field name, parse it and compare with THRESHOLD,
# then post to your chat webhook or send an email.

Wypisz surowy JSON raz i przejrzyj go przed napisaniem kodu parsującego. Rzeczywista nazwa pola zajmie Ci kilka sekund na sprawdzenie, a zgadywanie jej z artykułu może cicho zepsuć alert. Wybierz próg, który obejmuje co najmniej dzień normalnych wydatków, co mówi Ci CSV: zsumuj koszt z wczoraj i użyj go jako minimum.

Kiedy zadziała alert, doładuj. Każda kwota całkowita od $20 do $500 działa, z +5% kredytu od $50, +10% od $100 i +15% od $200, a kredyt nie wygasa. Aby najpierw uzyskać klucz dla trackera, użyj strony klucza API.

Nawyki zapewniające przewidywalność wydatków

  • Używaj jednego klucza na środowisko, aby ruch testowy nigdy nie ukrywał się w liczbach produkcyjnych.
  • Ogranicz max_tokens na endpointach, gdzie nie są potrzebne długie odpowiedzi. Domyślnie jest opcjonalny, więc nieograniczone odpowiedzi są możliwe.
  • Przycinaj historię czatu. Tokeny wejściowe są tańsze niż wyjściowe, ale długa historia powtarzana w każdej turze się sumuje.
  • Przejrzyj tygodniową sumę według tagów i szukaj tego tagu, który stanowi więcej niż połowę rachunku.

Jeszcze jeden nawyk: przechowuj ID zapytania przy każdym zalogowanym wierszu. Jeśli za miesiąc liczba będzie wyglądać źle, będziesz mógł dopasować ją do konkretnego wywołania, zamiast kłócić się na podstawie średnich. Ponieważ nieudane zapytania nie są rozliczane, ponowienia po błędach nie dodają kosztu, ale ponowienia po udanej odpowiedzi tak, więc upewnij się, że Twoja logika ponowień uruchamia się tylko przy prawdziwych błędach. Błąd, który ponownie wysyła udane zapytanie w pętli, jest najczęstszą przyczyną niespodziewanego rachunku w dowolnym API rozliczanym za tokeny.

Pytania i odpowiedzi

Czy nagłówek salda pojawia się w każdej odpowiedzi?

Nagłówek X-Balance-USD jest częścią nagłówków odpowiedzi wymienionych dla tego API. Odczytaj go z surowej odpowiedzi i traktuj brakującą wartość jako nieznana.

Czy mogę uzyskać koszt bez logowania każdego zapytania?

Tak. Wywołuj GET /v1/balance cyklicznie i obliczaj różnicę między odczytami.

Czy nieudane zapytania zmieniają saldo?

Nie. Nieudane lub odrzucone zapytania nie są rozliczane.

Który endpoint powinien używać istniejące narzędzie z panelu OpenAI?

Użyj ścieżki GET /v1/dashboard/billing/credit_grants w stylu OpenAI, którą wiele narzędzi już obsługuje.

Twój klucz jest o jeden formularz stąd

Utwórz konto, skopiuj klucz, zmień bazowy URL. To cała konfiguracja.