VI ▾
Base URL https://api.uncensoredaiapis.com/v1Mô hình uncensored
Lấy khóa API
Uncensored AIHướng dẫn di chuyển

Theo dõi chi phí AI API: Giám sát chi tiêu qua các header

Bạn có thể xây dựng trình theo dõi chi phí API AI trong khoảng năm mươi dòng, vì mọi phản hồi đều cho bạn biết số dư còn lại. Hướng dẫn này chỉ cách ghi chép chi tiêu theo yêu cầu, đọc các endpoint số dư và đưa ra cảnh báo trước khi tín dụng hết.

Cập nhật

Các bảng điều khiển nổi với biểu đồ giảm và chuông cảnh báo màu hổ phách, minh họa việc giám sát chi tiêu API
Năm viên đá sáng chói dẫn đến một khối máy chủ, minh họa các bước để bắt đầu với API kiểu OpenAI

Điểm chính

  • Mỗi phản hồi đều chứa header X-Balance-USD với số tín dụng còn lại của bạn.
  • GET /v1/balance và endpoint credit_grants trả về số dư khi được yêu cầu.
  • Chi phí cho mỗi lần gọi là (input x 0,15 + output x 0,50) / 1.000.000 đô la.
  • Ghi log vào CSV, sau đó cảnh báo khi số dư giảm xuống dưới một ngưỡng nhất định.

Nguồn gốc của các con số

Tín dụng trả trước giúp việc theo dõi chi phí trở nên đơn giản, vì nhà cung cấp đã giữ tổng cộng dồn. Bạn nhận được nó ở ba nơi:

  • Header phản hồi X-Balance-USD trên các lệnh gọi API, cho biết số tiền còn lại sau yêu cầu.
  • GET /v1/balance, một lệnh tra cứu số dư đơn giản.
  • GET /v1/dashboard/billing/credit_grants, tuyến giống OpenAI mà các công cụ như bảng điều khiển và wrapper đã biết cách gọi.

Bên cạnh đó, mỗi kết quả hoàn thành trả về đối tượng usage với số lượng token cho prompt và kết quả. Kết hợp token với giá ($0.15 cho mỗi 1M input, $0.50 cho mỗi 1M output) và bạn có thể tự tính chi phí cho bất kỳ yêu cầu nào, sau đó so sánh nó với mức giảm số dư. Hai con số này phải khớp nhau. Nếu không, bạn đã tìm thấy điểm cần điều tra. Chi tiết tham số đầy đủ có trong docs.

Đọc header trong một yêu cầu

Với curl, hãy thêm -i và xem các header:

curl -si https://api.uncensoredaiapis.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Say hi."}]}' \
  | grep -i "x-balance-usd"

Trong Python, SDK của OpenAI cho phép bạn truy cập phản hồi thô thông qua with_raw_response, cung cấp cho bạn cả tiêu đề và đối tượng đã được phân tích cú pháp cùng lúc:

from openai import OpenAI

client = OpenAI(base_url="https://api.uncensoredaiapis.com/v1", api_key="sk-your-key")

raw = client.chat.completions.with_raw_response.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Say hi."}],
)
resp = raw.parse()
print(raw.headers.get("x-balance-usd"), resp.usage.total_tokens)

Một bộ ghi log nhỏ ghi lại mọi lệnh gọi

Bạn hãy bọc các lệnh gọi của mình trong một hàm và ghi một hàng CSV mỗi lần. Hàng đó có thời gian, ID yêu cầu, số lượng token, chi phí tính toán và số dư.

import csv, time
from openai import OpenAI

client = OpenAI(base_url="https://api.uncensoredaiapis.com/v1", api_key="sk-your-key")
PRICE_IN, PRICE_OUT = 0.15, 0.50   # dollars per 1M tokens
LOG = "api_spend.csv"

def cost(usage):
    return (usage.prompt_tokens * PRICE_IN + usage.completion_tokens * PRICE_OUT) / 1_000_000

def tracked_chat(messages, tag="default"):
    raw = client.chat.completions.with_raw_response.create(
        model="uncensored", messages=messages)
    r = raw.parse()
    row = [
        time.strftime("%Y-%m-%d %H:%M:%S"),
        raw.headers.get("x-request-id"),
        tag,
        r.usage.prompt_tokens,
        r.usage.completion_tokens,
        round(cost(r.usage), 6),
        raw.headers.get("x-balance-usd"),
    ]
    with open(LOG, "a", newline="") as f:
        csv.writer(f).writerow(row)
    return r, row

Đối số tag là mấu chốt giúp nhật ký trở nên hữu ích. Hãy truyền tên tính năng như "summaries" hoặc "chat", và sau đó bạn có thể tổng hợp chi phí theo thẻ để xem phần nào của sản phẩm tiêu tốn tiền. ID yêu cầu giúp ích nếu bạn cần hỏi về một khoản phí hoặc báo cáo sự cố, vì nó xác định chính xác lệnh gọi đó.

Kiểm tra tính hợp lý của phép tính

Hãy lấy một lệnh gọi với 2.400 token input và 600 token output:

  • Đầu vào: 2.400 x 0,15 / 1.000.000 = $0,00036
  • Đầu ra: 600 x 0,50 / 1.000.000 = $0,00030
  • Tổng cộng: $0,00066

Một nghìn lệnh như vậy tốn $0,66. Nếu CSV của bạn cho thấy số dư giảm nhanh hơn nhiều so với tổng chi phí đã tính, hãy kiểm tra các lời gọi lại mà bạn chưa ghi, các tác vụ nền sử dụng cùng khóa, hoặc các luồng bạn chưa đóng. Các yêu cầu bị lỗi hoặc bị từ chối không bị tính phí, vì vậy lỗi không nên làm thay đổi số dư. Hãy so sánh tổng qua nhiều lệnh, không phải từng lệnh đơn lẻ, để các sai số làm tròn nhỏ được trung bình hóa.

Các lệnh gọi streaming và thông tin sử dụng

Với stream: true, các số liệu sử dụng sẽ đến vào cuối stream. Bạn hãy thu thập chúng từ chunk cuối cùng, sau đó ghi log hàng đó sau khi stream đóng.

def tracked_stream(messages, tag="chat"):
    usage = None
    for chunk in client.chat.completions.create(
            model="uncensored", messages=messages, stream=True):
        if chunk.choices and chunk.choices[0].delta.content:
            yield chunk.choices[0].delta.content
        usage = getattr(chunk, "usage", None) or usage
    if usage:
        with open(LOG, "a", newline="") as f:
            csv.writer(f).writerow([time.strftime("%F %T"), "", tag,
                usage.prompt_tokens, usage.completion_tokens, round(cost(usage), 6), ""])

Nếu bạn chỉ cần kiểm tra số dư, hãy gọi GET /v1/balance sau khi luồng dữ liệu kết thúc. Đây là một yêu cầu có chi phí thấp và nó cũng hoạt động như một tác vụ cron định kỳ.

Tổng hợp chi tiêu theo tính năng

CSV chỉ hữu ích nếu bạn đọc nó. Đoạn script ngắn này tổng hợp chi phí theo tag và hiển thị số dư mới nhất, không cần thêm gói nào.

import csv
from collections import defaultdict

totals, last_balance = defaultdict(float), None
with open("api_spend.csv") as f:
    for row in csv.reader(f):
        ts, req_id, tag, pin, pout, cost_usd, balance = row
        totals[tag] += float(cost_usd)
        last_balance = balance or last_balance

for tag, usd in sorted(totals.items(), key=lambda kv: -kv[1]):
    print(f"{tag:15s} ${usd:.4f}")
print("latest balance:", last_balance)

Bạn hãy chạy nó hàng ngày và dán kết quả vào kênh nhóm của bạn. Chi phí trước đây không rõ ràng giờ đã trở thành một con số mà mọi người có thể thảo luận, và một tính năng tốn gấp mười lần các tính năng khác sẽ nổi bật ngay lập tức. Để có ngân sách thô, bạn hãy nhân tổng hàng ngày với 30 và thêm 20 phần trăm dự phòng.

Thêm cảnh báo khi số dư thấp

Hết tín dụng giữa ngày sẽ làm sản phẩm ngoại tuyến, vì vậy hãy cảnh báo sớm. Một tác vụ cron chạy mỗi 15 phút là đủ.

import requests

BASE = "https://api.uncensoredaiapis.com/v1"
THRESHOLD = 5.00   # dollars

r = requests.get(BASE + "/balance", headers={"Authorization": "Bearer sk-your-key"}, timeout=10)
print(r.status_code, r.text)   # inspect the JSON once to see the field name
# After you know the field name, parse it and compare with THRESHOLD,
# then post to your chat webhook or send an email.

Bạn hãy in JSON thô một lần và xem nó trước khi viết mã phân tích cú pháp. Tên trường thực tế mất mười giây để kiểm tra, và việc đoán nó từ một bài viết có thể làm hỏng cảnh báo một cách im lặng. Bạn hãy chọn một ngưỡng bao phủ ít nhất một ngày chi tiêu bình thường, điều mà CSV cho bạn biết: hãy tổng hợp chi phí của ngày hôm qua và sử dụng giá trị đó làm mức tối thiểu.

Khi cảnh báo kích hoạt, bạn hãy nạp tiền. Bất kỳ số tiền nguyên nào từ $20 đến $500 đều hoạt động, với +5% tín dụng từ $50, +10% từ $100 và +15% từ $200, và tín dụng không bao giờ hết hạn. Để lấy khóa cho bộ theo dõi trước, bạn hãy sử dụng trang khóa API.

Các thói quen giúp chi tiêu ổn định

  • Bạn hãy sử dụng một khóa cho mỗi môi trường để lưu lượng thử nghiệm không bao giờ bị ẩn trong các số liệu sản xuất.
  • Giới hạn max_tokens trên các endpoint không cần câu trả lời dài. Theo mặc định, đây là tùy chọn nên số token phản hồi có thể không bị giới hạn.
  • Cắt ngắn lịch sử trò chuyện. Token đầu vào rẻ hơn token đầu ra, nhưng một lịch sử dài được lặp lại trên mỗi lượt sẽ cộng dồn.
  • Xem xét tổng hàng tuần theo tag, và tìm tag có chi phí chiếm hơn một nửa hóa đơn.

Một thói quen nữa: lưu ID yêu cầu với mọi hàng đã ghi log. Nếu một con số có vẻ sai sau một tháng, bạn có thể khớp nó với một lệnh gọi cụ thể thay vì suy luận từ các giá trị trung bình. Vì các yêu cầu thất bại không được tính phí, các lần thử lại khi gặp lỗi sẽ không thêm chi phí, nhưng các lần thử lại sau khi câu trả lời thành công thì có, vì vậy hãy đảm bảo logic thử lại của bạn chỉ kích hoạt khi gặp lỗi thực sự. Một lỗi khiến một yêu cầu thành công được gửi lại trong vòng lặp là nguyên nhân phổ biến nhất gây ra hóa đơn bất ngờ với bất kỳ API trả phí theo token nào.

Hỏi đáp

Header số dư có xuất hiện trên mọi phản hồi không?

Header X-Balance-USD là một phần của các header phản hồi được liệt kê cho API này. Đọc nó từ phản hồi thô và coi giá trị bị thiếu là không xác định.

Tôi có thể lấy chi phí mà không cần ghi lại từng yêu cầu không?

Có. Hãy truy vấn GET /v1/balance theo lịch trình và tính chênh lệch giữa các lần đọc.

Các yêu cầu thất bại có làm thay đổi số dư không?

Không. Các yêu cầu thất bại hoặc bị từ chối không bị tính phí.

Endpoint nào mà công cụ bảng điều khiển OpenAI hiện có nên sử dụng?

Sử dụng đường dẫn kiểu OpenAI GET /v1/dashboard/billing/credit_grants, vốn đã được nhiều công cụ hỗ trợ.

Khóa của bạn chỉ cách một biểu mẫu

Tạo tài khoản, sao chép khóa, thay đổi URL gốc. Đó là toàn bộ thiết lập.