LLM उपयोग लागत विश्लेषक

यह विश्लेषक क्या पढ़ता है

प्रदाता आपको उपयोग दो आकारों में देते हैं, और यह पेज दोनों पढ़ता है। पहला है प्रदाता कंसोल से CSV निर्यात — दिन, मॉडल या API कुंजी के अनुसार एक पंक्ति, इनपुट टोकन, आउटपुट टोकन, कैश किए गए टोकन, अनुरोधों और कभी-कभी लागत के कॉलम के साथ। दूसरा है OpenAI उपयोग API JSON: एक ऑब्जेक्ट जिसमें समय बकेट की data सरणी होती है, हर एक में प्रति-मॉडल परिणाम उन n_-उपसर्ग वाले टोकन गणनाओं के साथ जो वह API लौटाता है। कॉलम नाम प्रदाताओं के बीच भिन्न होते हैं और कंसोल संस्करणों के बीच बदलते हैं, इसलिए पार्सर एक निश्चित लेआउट की मांग नहीं करता: यह हर हेडर को सामान्य करता है, उसे उन नामों से मिलाता है जिनका OpenAI, Anthropic और सामान्य निर्यात वास्तव में उपयोग करते हैं, और कुछ भी गणना करने से पहले आपको परिणामी मैपिंग दिखाता है।

वह मैपिंग चरण जानबूझकर है। स्वचालित पहचान सामान्य निर्यातों को सही पाती है, लेकिन कोई बदला हुआ कॉलम नाम या प्रदाता-विशिष्ट अतिरिक्त फ़ील्ड चुपचाप आउटपुट टोकन को वहां रख सकता है जहां इनपुट टोकन होने चाहिए — और अदला-बदली हुए कॉलम पर बनी लागत रिपोर्ट ग़लत होते हुए भी विश्वसनीय लगती है। परिणामों के ऊपर के चयन ठीक-ठीक दिखाते हैं कि कौन सा कॉलम किस फ़ील्ड को देता है, पहचानी गई मैपिंग पर पहले से सेट, और आप उनमें से किसी को भी सुधारकर फिर चला सकते हैं। जिन पंक्तियों की तिथि पढ़ी नहीं जा सकती, या जिनका इनपुट या आउटपुट मान संख्या नहीं है, उन्हें अनुमान लगाने के बजाय छोड़ दिया जाता है और परिणामों में गिना जाता है: एक छोटा ईमानदार कुल एक बड़े गढ़े हुए कुल से बेहतर है, और छोड़ी गई गणना आपको बताती है कि फ़ाइल का कितना हिस्सा नहीं बचा।

लागत कैसे गणना की जाती है — और क्या देखना है

जब फ़ाइल अपना लागत कॉलम रखती है, तो वे आंकड़े वैसे ही उपयोग किए जाते हैं: प्रदाता ने उनका बिल बनाया, और कोई पुनर्गणना बिल से बेहतर नहीं होती। जब कोई लागत कॉलम नहीं होता, तो हर पंक्ति की कीमत इस साइट की अपनी LLM मूल्य-निर्धारण तालिका से लगाई जाती है — वही सत्यापित दरें जो लागत कैलकुलेटर के पीछे हैं — उस फ़ॉर्मूले से जिसका प्रदाता उपयोग करते हैं: अनकैश इनपुट इनपुट दर पर, कैश किया गया इनपुट कैश दर पर जब मॉडल कोई दर देता है, और आउटपुट आउटपुट दर पर। मॉडल उनके सटीक API id या प्रदर्शन नाम से मिलाए जाते हैं, प्रदाता उपसर्ग और अंत में तिथि या “latest” प्रत्यय की अनुमति के साथ — और इससे ढीला कुछ नहीं। परिणाम बैनर बताता है कि पैसा कहां से आया: फ़ाइल, गणना की गई, मिश्रित, या कोई नहीं, ताकि आप हमेशा जानें कि आप बिल पढ़ रहे हैं या अनुमान।

जो मॉडल मूल्य-निर्धारण तालिका में किसी से मेल नहीं खाता वह बिना कीमत के सूचीबद्ध होता है, कभी अनुमान नहीं लगाया जाता। यह सुनने में जितना लगता है उससे ज़्यादा मायने रखता है: उपयोग फ़ाइलों में नियमित रूप से फ़ाइन-ट्यून, पूर्वावलोकन id, अप्रचलित स्नैपशॉट और तृतीय-पक्ष तैनाती होती हैं जिनकी वास्तविक कीमत वही होती है जो कोई अनुबंध कहता है, और उनके लिए दर गढ़ना हर उस मॉडल के कुल को ज़हर कर देता जो ईमानदारी से मूल्यांकित हुआ था। बिना कीमत वाले मॉडल फिर भी अपने टोकन और अनुरोध गणनाएं कुलों में योगदान देते हैं और अपनी मात्राओं के साथ अपनी सूची में आते हैं, ताकि आप ठीक-ठीक देख सकें कि आपके ट्रैफ़िक का कितना हिस्सा अनुमान कवर नहीं करता — और यदि वह हिस्सा बड़ा है तो उसे स्वयं मूल्यांकित कर सकें।

किसी भी उपयोग फ़ाइल में तीन पैटर्न देखने लायक हैं, और यहां की प्रति-मॉडल और प्रति-दिन तालिकाएं उन्हें उजागर करने के लिए बनाई गई हैं। दोहराए जाने वाले प्रॉम्प्ट वाले कार्यभार पर लगभग शून्य कैश-टोकन अनुपात का अर्थ है कि प्रॉम्प्ट कैशिंग बंद है, ग़लत कॉन्फ़िगर है, या किसी बदलते उपसर्ग से पराजित हो रहा है — अक्सर उपलब्ध सबसे सस्ता फ़िक्स। महंगे स्तर की ओर बढ़ता मॉडल मिश्रण — फ़्लैगशिप मॉडल उन सवालों के जवाब देते हुए जिन्हें एक छोटा मॉडल उतनी ही अच्छी तरह संभालता है — एक मॉडल की लागत हिस्सेदारी बढ़ते हुए दिखता है जबकि अनुरोध गणनाएं स्थिर रहती हैं। और एक नियंत्रण से बाहर कुंजी या लूप प्रति-दिन तालिका में एक उछाल के रूप में दिखता है, अक्सर सप्ताहांत या रात भर में, आसपास के दिनों से कहीं ज़्यादा अनुरोध गणनाओं के साथ। साथी मार्गदर्शिका, अपनी LLM उपयोग फ़ाइल का विश्लेषण कैसे करें, हर पैटर्न और उसके बारे में क्या करना है, को विस्तार से बताती है।

इस पेज पर दिखने वाले पांच तथ्य

अक्सर पूछे जाने वाले प्रश्न