AI API 成本追踪器:通过响应头监控支出
你可以用约五十行代码构建 AI API 成本追踪器,因为每次响应都会告知你剩余的余额。本指南展示了如何记录每次请求的支出、读取余额接口,并在额度耗尽前发出预警。


要点
- 每次响应都包含带有你剩余额度的 X-Balance-USD 响应头。
- GET /v1/balance 和 credit_grants 接口按需返回余额。
- 每次调用的成本为 (输入 x 0.15 + 输出 x 0.50) / $1,000,000。
- 记录到 CSV,当余额低于阈值时发出预警。
数据来源
预付额度使成本追踪变得简单,因为提供商已经维护着累计总额。你可以通过以下三个途径获取:
- API 调用的
X-Balance-USD响应头,显示请求后剩余的余额。 GET /v1/balance,用于查询余额。GET /v1/dashboard/billing/credit_grants,OpenAI 风格的路由,仪表板和包装器等工具已知道如何调用。
此外,每次补全返回一个包含提示词和补全 token 计数的 usage 对象。将 token 与价格($0.15 每 1M 输入,$0.50 每 1M 输出)结合,你可以自行计算任何请求的成本,然后将其与余额的减少量进行比较。两者应该一致。如果不一致,说明有值得调查的问题。完整参数详情见 文档。
在一次请求中读取响应头
使用 curl,添加 -i 并查看响应头:
curl -si https://api.uncensoredaiapis.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"uncensored","messages":[{"role":"user","content":"Say hi."}]}' \
| grep -i "x-balance-usd"
在 Python 中,OpenAI SDK 通过 with_raw_response 暴露原始响应,同时提供响应头和解析后的对象:
from openai import OpenAI
client = OpenAI(base_url="https://api.uncensoredaiapis.com/v1", api_key="sk-your-key")
raw = client.chat.completions.with_raw_response.create(
model="uncensored",
messages=[{"role": "user", "content": "Say hi."}],
)
resp = raw.parse()
print(raw.headers.get("x-balance-usd"), resp.usage.total_tokens)记录每次调用的小型日志器
将你的调用封装在一个函数中,每次调用时写入一行 CSV。该行包含时间、请求 ID、token 计数、计算出的成本和余额。
import csv, time
from openai import OpenAI
client = OpenAI(base_url="https://api.uncensoredaiapis.com/v1", api_key="sk-your-key")
PRICE_IN, PRICE_OUT = 0.15, 0.50 # dollars per 1M tokens
LOG = "api_spend.csv"
def cost(usage):
return (usage.prompt_tokens * PRICE_IN + usage.completion_tokens * PRICE_OUT) / 1_000_000
def tracked_chat(messages, tag="default"):
raw = client.chat.completions.with_raw_response.create(
model="uncensored", messages=messages)
r = raw.parse()
row = [
time.strftime("%Y-%m-%d %H:%M:%S"),
raw.headers.get("x-request-id"),
tag,
r.usage.prompt_tokens,
r.usage.completion_tokens,
round(cost(r.usage), 6),
raw.headers.get("x-balance-usd"),
]
with open(LOG, "a", newline="") as f:
csv.writer(f).writerow(row)
return r, row
tag 参数是让日志变得有用的关键。传入功能名称(如 "summaries" 或 "chat"),之后你可以按标签汇总成本,查看产品的哪部分花费了资金。请求 ID 有助于你在需要 查询费用 或报告问题时,标识具体的调用。
验证计算逻辑
考虑一次包含 2,400 个输入 token 和 600 个输出 token 的调用:
- 输入:2,400 x 0.15 / 1,000,000 = $0.00036
- 输出:600 x 0.50 / 1,000,000 = $0.00030
- 总计:$0.00066
一千次这样的调用成本为 $0.66。如果你的 CSV 显示余额下降速度远快于计算成本之和,请检查未记录的重试、使用相同密钥的后台作业或未关闭的流。失败或被拒绝的请求不会收费,因此错误根本不应引起余额变动。对多次调用进行总计比较,以抵消小的舍入差异。
流式输出调用与使用情况
使用 stream: true 时,使用情况数据在流结束时到达。从最后一个块收集数据,然后在流关闭后记录该行。
def tracked_stream(messages, tag="chat"):
usage = None
for chunk in client.chat.completions.create(
model="uncensored", messages=messages, stream=True):
if chunk.choices and chunk.choices[0].delta.content:
yield chunk.choices[0].delta.content
usage = getattr(chunk, "usage", None) or usage
if usage:
with open(LOG, "a", newline="") as f:
csv.writer(f).writerow([time.strftime("%F %T"), "", tag,
usage.prompt_tokens, usage.completion_tokens, round(cost(usage), 6), ""])
如果你只需要余额,请在流结束后调用 GET /v1/balance。这是一个低成本请求,也可以作为 cron 作业中的定期检查。
按功能汇总支出
只有读取 CSV 文件,它才有用。此简短脚本按标签汇总成本并显示最新余额,无需额外包。
import csv
from collections import defaultdict
totals, last_balance = defaultdict(float), None
with open("api_spend.csv") as f:
for row in csv.reader(f):
ts, req_id, tag, pin, pout, cost_usd, balance = row
totals[tag] += float(cost_usd)
last_balance = balance or last_balance
for tag, usd in sorted(totals.items(), key=lambda kv: -kv[1]):
print(f"{tag:15s} ${usd:.4f}")
print("latest balance:", last_balance)
每天运行它并将输出粘贴到你的团队频道。原本不可见的支出变成了人们可以讨论的数字,而成本是其他功能十倍的功能会立即脱颖而出。对于粗略预算,将每日总计乘以 30,并增加 20% 的余量。
添加低余额预警
白天额度耗尽会导致产品离线,因此请提前预警。每 15 分钟运行一次的 cron 作业就足够了。
import requests
BASE = "https://api.uncensoredaiapis.com/v1"
THRESHOLD = 5.00 # dollars
r = requests.get(BASE + "/balance", headers={"Authorization": "Bearer sk-your-key"}, timeout=10)
print(r.status_code, r.text) # inspect the JSON once to see the field name
# After you know the field name, parse it and compare with THRESHOLD,
# then post to your chat webhook or send an email.
先打印一次原始 JSON 并查看它,然后再编写解析代码。实际字段名只需十秒钟即可检查,从文章中猜测字段名可能会导致预警静默失效。选择一个至少覆盖一天正常支出的阈值,这可以通过 CSV 得知:汇总昨天的成本并将其用作最小值。
当提醒触发时,充值。从 $20 到 $500 的任意整数金额均可,充值 $50 获得 +5% 额度,充值 $100 获得 +10% 额度,充值 $200 获得 +15% 额度,且额度不会过期。要首先获取追踪器的密钥,请使用 API 密钥页面。
保持支出可预测的习惯
- 每个环境使用一个密钥,以便测试流量不会隐藏在生产数据中。
- 在不需长回答的接口上限制
max_tokens。默认情况下该参数为可选,因此可能出现无限制的回复。 - 精简聊天历史。输入 token 比输出便宜,但每次轮次重复的长历史会累积。
- 按标签审查每周总计,并查找占总账单一半以上的标签。
另一个习惯:为每条日志记录存储请求 ID。如果一个月后某个数字看起来不对,你可以将其与特定调用匹配,而不是通过平均值进行推断。因为失败的请求不收费,因错误导致的重试不会增加成本,但成功响应后的重试会增加成本,所以请确保你的重试逻辑仅在真正失败时触发。在循环中重复发送成功请求的 bug 是使用按 token 计费 API 时产生意外账单的最常见原因。
更多指南
问答
余额响应头是否出现在每次响应中?
X-Balance-USD 头是此 API 列出的响应头的一部分。从原始响应中读取它,并将缺失值视为未知。
如果不记录每次请求,能否获取成本?
可以。按计划轮询 GET /v1/balance 并计算读数之间的差值。
失败的请求会影响余额吗?
不会。失败或被拒绝的请求不收费。
现有的 OpenAI 面板工具应使用哪个接口?
使用 OpenAI 风格的 GET /v1/dashboard/billing/credit_grants 路由,许多工具已支持该路由。