AI API लागत ट्रैकर: हेडर के साथ खर्च की निगरानी
आप लगभग पचास पंक्तियों में एक AI API लागत ट्रैकर बना सकते हैं, क्योंकि हर प्रतिक्रिया पहले से ही आपको आपका शेष बैलेंस बताती है। यह गाइड दिखाती है कि प्रत्येक अनुरोध पर खर्च कैसे लॉग करें, बैलेंस एंडपॉइंट पढ़ें और क्रेडिट खत्म होने से पहले अलर्ट कैसे उठाएं।


मुख्य बिंदु
- हर प्रतिक्रिया में आपका शेष क्रेडिट X-Balance-USD हेडर के साथ होता है।
- GET /v1/balance और credit_grants एंडपॉइंट अनुरोध पर बैलेंस लौटाते हैं।
- प्रत्येक कॉल की लागत (इनपुट x 0.15 + आउटपुट x 0.50) / 1,000,000 डॉलर होती है।
- CSV में लॉग करें, फिर बैलेंस एक सीमा से नीचे गिरने पर अलर्ट उठाएं।
संख्याएँ कहाँ से आती हैं
प्रीपेड क्रेडिट से लागत ट्रैकिंग सरल हो जाती है, क्योंकि प्रदाता पहले से ही एक चालू कुल राशि बनाए रखता है। आपको यह तीन स्थानों पर मिलता है:
- API कॉल पर
X-Balance-USDप्रतिक्रिया हेडर, अनुरोध के बाद शेष राशि दिखाता है। GET /v1/balance, एक साधारण शेष राशि खोज।GET /v1/dashboard/billing/credit_grants, वह OpenAI-शैली का मार्ग है जिसे डैशबोर्ड और व्रैपर जैसे टूल पहले से कॉल करना जानते हैं।
उनके साथ-साथ, प्रत्येक पूर्णता एक usage ऑब्जेक्ट लौटाती है जिसमें प्रॉम्प्ट और पूर्णता टोकन गणनाएँ होती हैं। टोकन को मूल्यों ($0.15 प्रति 1M इनपुट, $0.50 प्रति 1M आउटपुट) से जोड़ें और आप किसी भी अनुरोध की लागत स्वयं गणना कर सकते हैं, फिर इसे बैलेंस में कमी से तुलना कर सकते हैं। दोनों को मेल खाना चाहिए। यदि वे मेल नहीं खाते, तो आपको जाँच के लिए कुछ मिला है। पूर्ण पैरामीटर विवरण दस्तावेज़ में हैं।
एक अनुरोध में हेडर पढ़ें
curl के साथ, -i जोड़ें और हेडर देखें:
curl -si https://api.uncensoredaiapis.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"uncensored","messages":[{"role":"user","content":"Say hi."}]}' \
| grep -i "x-balance-usd"
Python में, OpenAI SDK with_raw_response के माध्यम से रैस्पॉन्स को एक्सपोज़ करता है, जो आपको हेडर्स और पार्स्ड ऑब्जेक्ट दोनों एक साथ देता है:
from openai import OpenAI
client = OpenAI(base_url="https://api.uncensoredaiapis.com/v1", api_key="sk-your-key")
raw = client.chat.completions.with_raw_response.create(
model="uncensored",
messages=[{"role": "user", "content": "Say hi."}],
)
resp = raw.parse()
print(raw.headers.get("x-balance-usd"), resp.usage.total_tokens)हर कॉल को रिकॉर्ड करने वाला एक छोटा लॉगर
अपनी कॉल को एक फ़ंक्शन में लपेटें और हर बार एक CSV पंक्ति लिखें। पंक्ति में समय, अनुरोध ID, टोकन गणना, गणना की गई लागत और बैलेंस होता है।
import csv, time
from openai import OpenAI
client = OpenAI(base_url="https://api.uncensoredaiapis.com/v1", api_key="sk-your-key")
PRICE_IN, PRICE_OUT = 0.15, 0.50 # dollars per 1M tokens
LOG = "api_spend.csv"
def cost(usage):
return (usage.prompt_tokens * PRICE_IN + usage.completion_tokens * PRICE_OUT) / 1_000_000
def tracked_chat(messages, tag="default"):
raw = client.chat.completions.with_raw_response.create(
model="uncensored", messages=messages)
r = raw.parse()
row = [
time.strftime("%Y-%m-%d %H:%M:%S"),
raw.headers.get("x-request-id"),
tag,
r.usage.prompt_tokens,
r.usage.completion_tokens,
round(cost(r.usage), 6),
raw.headers.get("x-balance-usd"),
]
with open(LOG, "a", newline="") as f:
csv.writer(f).writerow(row)
return r, row
tag तर्क वह तकनीक है जो लॉग को उपयोगी बनाती है। "summaries" या "chat" जैसे फीचर नाम पास करें, और बाद में आप टैग के अनुसार लागत जोड़कर यह देख सकते हैं कि उत्पाद का कौन-सा हिस्सा पैसा खर्च करता है। यदि आपको किसी चार्ज के बारे में पूछना हो या समस्या रिपोर्ट करनी हो, तो request ID मददगार साबित होती है, क्योंकि यह सटीक कॉल की पहचान करती है।
गणना की जाँच करें
2,400 इनपुट टोकन और 600 आउटपुट टोकन वाले एक कॉल को लें:
- इनपुट: 2,400 x 0.15 / 1,000,000 = $0.00036
- आउटपुट: 600 x 0.50 / 1,000,000 = $0.00030
- कुल: $0.00066
उनमें से एक हजार की लागत $0.66 है। यदि आपका CSV बैलेंस की गणना की गई लागतों के योग की तुलना में बहुत तेज़ी से गिरते हुए दिखाता है, तो उन रीट्राईज़ की जांच करें जिन्हें आपने लॉग नहीं किया, उसी कुंजी का उपयोग करने वाले बैकग्राउंड जॉब्स, या स्ट्रीम जो आपने खुले छोड़े। विफल या अस्वीकृत अनुरोधों के लिए चार्ज नहीं किया जाता है, इसलिए त्रुटियों से बैलेंस में कोई बदलाव नहीं आना चाहिए। कई कॉल्स के ऊपर कुल योग की तुलना करें, अकेले कॉल्स की नहीं, ताकि छोटे राउंडिंग अंतर औसत हो जाएं।
स्ट्रीमिंग कॉल और उपयोग
stream: true के साथ, उपयोग संख्याएँ स्ट्रीम के अंत में आती हैं। अंतिम खंड से उन्हें एकत्र करें, फिर स्ट्रीम बंद होने के बाद पंक्ति लॉग करें।
def tracked_stream(messages, tag="chat"):
usage = None
for chunk in client.chat.completions.create(
model="uncensored", messages=messages, stream=True):
if chunk.choices and chunk.choices[0].delta.content:
yield chunk.choices[0].delta.content
usage = getattr(chunk, "usage", None) or usage
if usage:
with open(LOG, "a", newline="") as f:
csv.writer(f).writerow([time.strftime("%F %T"), "", tag,
usage.prompt_tokens, usage.completion_tokens, round(cost(usage), 6), ""])
यदि आपको केवल बैलेंस चाहिए, तो स्ट्रीम समाप्त होने के बाद GET /v1/balance कॉल करें। यह एक सस्ता अनुरोध है, और यह क्रॉन जॉब से नियमित जाँच के रूप में भी काम करता है।
विशेषताओं के अनुसार खर्च का योग
CSV तभी उपयोगी है जब आप इसे पढ़ें। यह छोटा स्क्रिप्ट टैग के अनुसार लागत का योग देता है और नवीनतम शेष राशि दिखाता है, बिना किसी अतिरिक्त पैकेज के।
import csv
from collections import defaultdict
totals, last_balance = defaultdict(float), None
with open("api_spend.csv") as f:
for row in csv.reader(f):
ts, req_id, tag, pin, pout, cost_usd, balance = row
totals[tag] += float(cost_usd)
last_balance = balance or last_balance
for tag, usd in sorted(totals.items(), key=lambda kv: -kv[1]):
print(f"{tag:15s} ${usd:.4f}")
print("latest balance:", last_balance)
इसे दैनिक चलाएं और आउटपुट को अपनी टीम चैनल में पेस्ट करें। जो खर्च अदृश्य था, वह एक संख्या बन जाता है जिस पर लोग चर्चा कर सकते हैं, और एक फीचर जो अन्य की तुलना में दस गुना खर्च करता है, तुरंत उभरकर सामने आता है। एक अनुमानित बजट के लिए, दैनिक कुल को 30 से गुणा करें और 20 प्रतिशत सुरक्षा मार्जिन जोड़ें।
कम शेष राशि के लिए अलर्ट जोड़ें
दिन के बीच में क्रेडिट खत्म होने से उत्पाद ऑफलाइन हो जाता है, इसलिए समय से पहले अलर्ट सेट करें। हर 15 मिनट में चलने वाला क्रॉन जॉब पर्याप्त है।
import requests
BASE = "https://api.uncensoredaiapis.com/v1"
THRESHOLD = 5.00 # dollars
r = requests.get(BASE + "/balance", headers={"Authorization": "Bearer sk-your-key"}, timeout=10)
print(r.status_code, r.text) # inspect the JSON once to see the field name
# After you know the field name, parse it and compare with THRESHOLD,
# then post to your chat webhook or send an email.
कच्चे JSON को एक बार प्रिंट करें और विश्लेषण कोड लिखने से पहले उसे देखें। असली फ़ील्ड नाम की जाँच करने में दस सेकंड लगते हैं, और एक आर्टिकल से इसे अनुमानित करने से अलर्ट चुपचाप टूट सकता है। एक ऐसी सीमा चुनें जो सामान्य खर्च के कम से कम एक दिन को कवर करे, जिसे CSV बताता है: कल की लागत जोड़ें और उसे न्यूनतम के रूप में उपयोग करें।
जब अलर्ट सक्रिय हो, टॉप-अप करें। $20 से $500 तक कोई भी पूर्ण राशि काम करती है, $50 पर +5% क्रेडिट, $100 पर +10% और $200 पर +15% क्रेडिट मिलता है, और क्रेडिट कभी समाप्त नहीं होता। ट्रैकर के लिए कुंजी प्राप्त करने के लिए, API कुंजी पृष्ठ का उपयोग करें।
खर्च को पूर्वानुमेय बनाए रखने की आदतें
- प्रत्येक वातावरण के लिए एक अलग कुंजी का उपयोग करें ताकि टेस्ट ट्रैफ़िक उत्पादन के आँकड़ों में कभी छिपे नहीं।
max_tokensको उन एंडपॉइंट्स पर कैप करें जहाँ लंबे उत्तरों की आवश्यकता नहीं है। यह डिफ़ॉल्ट रूप से वैकल्पिक है, इसलिए सीमाहीन प्रतिक्रियाएँ संभव हैं।- चैट इतिहास को कम करें। इनपुट टोकन आउटपुट से सस्ते होते हैं, लेकिन हर बारी पर दोहराया गया लंबा इतिहास जुड़ जाता है।
- टैग के अनुसार साप्ताहिक योग की समीक्षा करें, और उस एक टैग को खोजें जो बिल का आधा से अधिक है।
एक और आदत: हर लॉग किए गए पंक्ति के साथ रिक्वेस्ट ID को स्टोर करें। यदि एक संख्या एक महीने बाद गलत लगती है, तो आप उसे औसत के आधार पर अनुमान लगाने के बजाय एक विशिष्ट कॉल से मिला सकते हैं। चूंकि विफल अनुरोधों के लिए बिल नहीं किया जाता है, इसलिए त्रुटियों पर रीट्राईज़ लागत नहीं जोड़ते, लेकिन सफल जवाब के बाद रीट्राईज़ जोड़ते हैं, इसलिए सुनिश्चित करें कि आपका पुनःप्रयास तर्क केवल असली विफलताओं पर ट्रिगर हो। एक बग जो सफल अनुरोध को लूप में फिर से भेजता है, वह किसी भी पे-पर-टोकन API के साथ आश्चर्यजनक बिल का सबसे सामान्य कारण है।
अधिक गाइड
प्रश्न और उत्तर
क्या बैलेंस हेडर प्रत्येक प्रतिक्रिया पर दिखाई देता है?
X-Balance-USD हेडर इस API के लिए सूचीबद्ध प्रतिक्रिया हेडर्स का हिस्सा है। इसे कच्ची प्रतिक्रिया से पढ़ें और एक अनुपस्थित मान को अज्ञात मानें।
क्या मैं प्रत्येक अनुरोध को लॉग किए बिना लागत प्राप्त कर सकता हूँ?
हाँ। निर्धारित समय पर GET /v1/balance को पुछें और रीडिंग्स के बीच अंतर की गणना करें।
क्या विफल अनुरोध बैलेंस को बदलते हैं?
नहीं। विफल या अस्वीकृत अनुरोधों पर कोई शुल्क नहीं लगाया जाता।
एक मौजूदा OpenAI डैशबोर्ड टूल को किस एंडपॉइंट का उपयोग करना चाहिए?
GET /v1/dashboard/billing/credit_grants एंडपॉइंट का उपयोग करें, जिसे कई टूल पहले से समर्थित करते हैं।
आपकी कुंजी बस एक फॉर्म भरने की दूर है
एक खाता बनाएँ, कुंजी कॉपी करें, बेस URL बदलें। सेटअप यही है।