AI API 成本追蹤器:使用標頭監控支出
你可以用約五十行程式碼建立 AI API 成本追蹤器,因為每個回應都會顯示剩餘餘額。本指南將展示如何記錄每筆請求的支出、讀取餘額端點,並在額度耗盡前發出警報。


重點摘要
- 每個回應都帶有 X-Balance-USD 標頭,顯示你的剩餘額度。
- GET /v1/balance 與 credit_grants 端點會在需要時回傳餘額。
- 每次呼叫的成本為 (輸入 x 0.15 + 輸出 x 0.50) / $1,000,000。
- 記錄到 CSV,當餘額低於閾值時發出警報。
數字來源
預付額度讓成本追蹤變得簡單,因為供應商已經維持累計總額。你可以從三個地方取得它:
- API 呼叫上的
X-Balance-USD回應標頭,顯示請求後剩餘的內容。 GET /v1/balance,純餘額查詢。GET /v1/dashboard/billing/credit_grants,類 OpenAI 風格的路由,儀表板與包裝器等工具已知道如何呼叫此路由。
此外,每次完成回應都會回傳一個 usage 物件,包含提示詞與完成 token 的計數。將 token 與價格(每 1M 輸入 $0.15,每 1M 輸出 $0.50)結合,你可以自行計算任何請求的成本,然後將其與餘額的下降幅度進行比較。兩者應該一致。如果不一致,你就找到了需要調查的問題。完整參數細節請見 文件。
在一次請求中讀取標頭
使用 curl 時,加上 -i 並查看標頭:
curl -si https://api.uncensoredaiapis.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"uncensored","messages":[{"role":"user","content":"Say hi."}]}' \
| grep -i "x-balance-usd"
在 Python 中,OpenAI SDK 透過 with_raw_response 暴露原始回應,這讓你同時取得標頭和解析後的物件:
from openai import OpenAI
client = OpenAI(base_url="https://api.uncensoredaiapis.com/v1", api_key="sk-your-key")
raw = client.chat.completions.with_raw_response.create(
model="uncensored",
messages=[{"role": "user", "content": "Say hi."}],
)
resp = raw.parse()
print(raw.headers.get("x-balance-usd"), resp.usage.total_tokens)記錄每次呼叫的小型記錄器
將你的呼叫包裝在一個函式中,每次呼叫時寫入一行 CSV。該行包含時間、請求 ID、token 計數、計算出的成本和餘額。
import csv, time
from openai import OpenAI
client = OpenAI(base_url="https://api.uncensoredaiapis.com/v1", api_key="sk-your-key")
PRICE_IN, PRICE_OUT = 0.15, 0.50 # dollars per 1M tokens
LOG = "api_spend.csv"
def cost(usage):
return (usage.prompt_tokens * PRICE_IN + usage.completion_tokens * PRICE_OUT) / 1_000_000
def tracked_chat(messages, tag="default"):
raw = client.chat.completions.with_raw_response.create(
model="uncensored", messages=messages)
r = raw.parse()
row = [
time.strftime("%Y-%m-%d %H:%M:%S"),
raw.headers.get("x-request-id"),
tag,
r.usage.prompt_tokens,
r.usage.completion_tokens,
round(cost(r.usage), 6),
raw.headers.get("x-balance-usd"),
]
with open(LOG, "a", newline="") as f:
csv.writer(f).writerow(row)
return r, row
tag 參數是讓日誌發揮作用的關鍵。傳遞功能名稱如 "summaries" 或 "chat",之後你可以按標籤累計成本,以查看產品的哪個部分在花費資金。請求 ID 在你需要 查詢費用 或回報問題時很有幫助,因為它標識了確切的呼叫。
驗證計算邏輯
進行一次包含 2,400 個輸入 token 和 600 個輸出 token 的呼叫:
- 輸入:2,400 x 0.15 / 1,000,000 = $0.00036
- 輸出:600 x 0.50 / 1,000,000 = $0.00030
- 總計:$0.00066
一千次這些呼叫的成本為 $0.66。如果你的 CSV 顯示餘額下降的速度遠快於計算成本的總和,請檢查未記錄的重試、使用相同金鑰的背景工作,或你未關閉的串流請求。失敗或被拒絕的請求不會收費,因此錯誤不應影響餘額。請比較多次呼叫的總和,而非單一呼叫,讓小的四捨五入差異相互抵消。
串流呼叫與用量
使用 stream: true 時,用量數據會在串流結束時到達。請從最後一個區塊收集數據,然後在串流關閉後記錄該行。
def tracked_stream(messages, tag="chat"):
usage = None
for chunk in client.chat.completions.create(
model="uncensored", messages=messages, stream=True):
if chunk.choices and chunk.choices[0].delta.content:
yield chunk.choices[0].delta.content
usage = getattr(chunk, "usage", None) or usage
if usage:
with open(LOG, "a", newline="") as f:
csv.writer(f).writerow([time.strftime("%F %T"), "", tag,
usage.prompt_tokens, usage.completion_tokens, round(cost(usage), 6), ""])
如果你只需要餘額,請在串流結束後改為呼叫 GET /v1/balance。這是一個廉價的請求,也可以作為 cron 作業的定期檢查。
按功能總和計算支出
CSV 只有在讀取時才有用。這個簡短指令碼會按標籤累計成本並顯示最新餘額,無需額外套件。
import csv
from collections import defaultdict
totals, last_balance = defaultdict(float), None
with open("api_spend.csv") as f:
for row in csv.reader(f):
ts, req_id, tag, pin, pout, cost_usd, balance = row
totals[tag] += float(cost_usd)
last_balance = balance or last_balance
for tag, usd in sorted(totals.items(), key=lambda kv: -kv[1]):
print(f"{tag:15s} ${usd:.4f}")
print("latest balance:", last_balance)
每天執行並將輸出貼到你的團隊頻道。原本看不見的支出變成了一個可以討論的數字,而成本是其他功能十倍的功能會立即顯現。對於粗略的預算,請將每日總和乘以 30,並增加 20% 的緩衝空間。
新增低餘額警報
白天額度耗盡會導致產品離線,因此請提前警報。每 15 分鐘執行一次的 cron 作業就足夠了。
import requests
BASE = "https://api.uncensoredaiapis.com/v1"
THRESHOLD = 5.00 # dollars
r = requests.get(BASE + "/balance", headers={"Authorization": "Bearer sk-your-key"}, timeout=10)
print(r.status_code, r.text) # inspect the JSON once to see the field name
# After you know the field name, parse it and compare with THRESHOLD,
# then post to your chat webhook or send an email.
先列印一次原始 JSON 並查看它,再撰寫解析程式碼。檢查真實欄位名稱只需十秒鐘,而從文章中猜測它可能會導致警報靜默失效。選擇一個至少涵蓋一天正常支出的閾值,這可以從 CSV 得知:計算昨天的成本,並將其用作最小值。
當警報觸發時,儲值。任何從 $20 到 $500 的整數金額皆可,從 $50 起贈 +5% 額度,從 $100 起贈 +10%,從 $200 起贈 +15%,且額度永不過期。要取得追蹤器的金鑰,請先使用 API 金鑰頁面。
讓支出可預測的習慣
- 每個環境使用一個金鑰,這樣測試流量就不會隱藏在生產數據中。
- 在不需要長回答的端點上設定
max_tokens上限。預設為可選,因此可能產生長度不受限的回覆。 - 修剪聊天歷史記錄。輸入 token 比輸出便宜,但長長的歷史記錄在每次輪次重複時會累積。
- 檢視按標籤劃分的每週總和,並找出佔帳單一半以上的單一標籤。
另一個習慣:在每個記錄的資料列中儲存請求 ID。如果一個月後某個數字看起來不正確,你可以將其與特定呼叫進行比對,而不是僅憑平均值推論。因為失敗的請求不計費,錯誤的重試不會增加成本,但成功回應後的重試會,因此確保你的重試邏輯僅在真正失敗時觸發。一個在循環中重新發送成功請求的錯誤,是任何按 token 計費 API 產生意外帳單的最常見原因。
更多指南
問答
餘額標頭是否出現在每個回應中?
X-Balance-USD 標頭屬於此 API 列出的回應標頭之一。請從原始回應中讀取它,並將遺失的值視為未知。
我可以不記錄每筆請求來取得成本嗎?
可以。請定期輪詢 GET /v1/balance,並計算讀數之間的差值。
失敗的請求會影響餘額嗎?
不會。失敗或被拒絕的請求不會收費。
現有的 OpenAI 儀表板工具應使用哪個端點?
使用 OpenAI 風格的 GET /v1/dashboard/billing/credit_grants 路由,許多工具已支援此路由。