Ollama API दस्तावेज़: अनसेंसर्ड API तुलना
यह गाइड लोकल Ollama डेप्लॉयमेंट की तुलना एक होस्टेड, uncensored OpenAI-compatible API से करती है ताकि आप सही इंफ्रास्ट्रक्चर चुन सकें। हम CUDA ड्राइवरों, Docker ओवरहेड, और टोकन बिलिंग के तकनीकी समझौतों का अवलोकन करते हैं ताकि आप यह निर्णय ले सकें कि क्या अपना GPU प्रबंधित करें या प्रीपेड API कुंजी का उपयोग करें।
अंतिम अद्यतन
एक अनकैप्ड API क्यों चुनें?
अनकेंसरड APIs उन मॉडल तक सीधी पहुँच प्रदान करते हैं जो कानूनी वयस्क, काल्पनिक या विवादास्पद विषयों को रिफ्यूज नहीं करते हैं। यह दृष्टिकोण मॉडल-विशिष्ट निर्भरताओं को प्रबंधित करने या एलाइनमेंट परतों को स्वयं फाइन-ट्यून करने की आवश्यकता को समाप्त कर देता है।
हमारा होस्टेड सेवा एक ओपन-वेइट मॉडल प्रदान करती है जो न्यूनतम अस्वीकृति के लिए अनुकूलित है। आप मानक टेक्स्ट इनपुट भेजते हैं और सामग्री फिल्टर्स के अपने वर्कफ़्लो को ब्लॉक किए बिना टेक्स्ट आउटपुट प्राप्त करते हैं। API स्ट्रीमिंग (SSE के माध्यम से), फंक्शन कॉलिंग और JSON मोड का समर्थन करता है, आधुनिक डेवलपर स्टैक्स के साथ संगतता सुनिश्चित करता है।
लोकल डिप्लॉयमेंट्स के विपरीत, आपको GPU तापमान की निगरानी करने या ड्राइवर अपडेट हैंडल करने की आवश्यकता नहीं है। इंफ्रास्ट्रक्चर स्वचालित रूप से स्केल होता है, जिससे आप अपने सर्वर को बनाए रखने के बजाय अपनी एप्लिकेशन बनाने पर ध्यान केंद्रित कर सकते हैं।
स्थानीय Ollama बनाम होस्टेड API: ट्रेड-ऑफ
स्थानीय तैनाती पूर्ण डेटा गोपनीयता प्रदान करती है और WAN पर शून्य लेटेंसी देती है, लेकिन महत्वपूर्ण हार्डवेयर प्रबंधन की आवश्यकता होती है। आपको CUDA ड्राइवर, Docker कंटेनर और OLLAMA_HOST जैसे वातावरण चर कॉन्फ़िगर करने की आवश्यकता होती है।
होस्टेड API हार्डवेयर प्रबंधन को छुपा देती हैं। आप बेस URL और API कुंजी का उपयोग करके कनेक्ट करते हैं, बिल्कुल उसी तरह जैसे आप प्रमुख क्लाउड प्रदाताओं के साथ करते हैं। इससे NVIDIA Container Toolkit की आवश्यकता या लोकल मॉडल फाइलों का प्रबंधन समाप्त हो जाता है।
ट्रेड-ऑफ लागत बनाम सुविधा है। लोकल रन हार्डवेयर खरीदने के बाद मुफ्त होते हैं, जबकि होस्टेड API प्रति टोकन चार्ज करती है। कभी-कभी उपयोग या तेज़ प्रोटोटाइपिंग के लिए, होस्टेड रास्ता अक्सर तेज़ी से डिप्लॉय करने में आसान होता है।
लागत तुलना: GPU हार्डवेयर बनाम टोकन बिलिंग
स्थानीय इनफरेंस लागत स्थिर है: आप एक बार GPU खरीदते हैं। होस्टेड बिलिंग उपयोग के साथ स्केल होती है। हमारा मॉडल प्रति 1M इनपुट टोकन के लिए $0.15 और प्रति 1M आउटपुट टोकन के लिए $0.50 चार्ज करता है। इस प्रीपेड मॉडल का अर्थ है कि त्रुटियां और अस्वीकृतियां मुफ्त हैं, इसलिए आप केवल वास्तविक परिणामों के लिए भुगतान करते हैं।
उच्च-वॉल्यूम उत्पादन के लिए, स्थानीय हार्डवेयर आमतौर पर कीमत पर जीतता है। बिना किसी निरंतरता वाले विकास या छोटी टीमों के लिए, पूर्व-भुगतान टोकन बिलिंग आइडल GPU संसाधनों के ओवरहेड से बचाता है। आप $20 से शुरू होने वाले क्रिप्टो के साथ टॉप अप कर सकते हैं, बड़े जमा के लिए बोनस क्रेडिट उपलब्ध है।
कोई मासिक सदस्यता आपको अटकाती नहीं है। क्रेडिट कभी समाप्त नहीं होता, जिससे आप बिना धन खोए उपयोग रोक सकते हैं।
प्रदर्शन: Docker, CUDA, और लोकल बाधाएं
स्थानीय प्रदर्शन आपके CUDA संस्करण और हार्डवेयर जनरेशन पर भारी निर्भर करता है। Ollama CUDA 5.0+ का समर्थन करता है, लेकिन आधुनिक मॉडल Ampere आर्किटेक्चर या नए पर सबसे अच्छा प्रदर्शन करते हैं। उदाहरण के लिए, VLLM को Volta या नए की आवश्यकता होती है।
Docker थोड़ा ओवरहेड जोड़ता है लेकिन डिपेंडेंसी मैनेजमेंट को सरल बनाता है। आप Coolify जैसे टूल्स का उपयोग करके न्यूनतम प्रयास के साथ Ollama को Open Webgui के साथ सेटअप कर सकते हैं। हालाँकि, आपको OLLAMA_HOST वेरिएबल को सही ढंग से सेट करना होगा, अक्सर बाहरी एक्सेस के लिए 0.0.0.0 पर।
होस्टेड API आपके लोकल मशीन के बावजूद स्थिर प्रदर्शन प्रदान करती हैं। यह तब महत्वपूर्ण होता है जब आपको रियल-टाइम एप्लिकेशन के लिए पूर्वानुमेय लेटेंसी की आवश्यकता हो।
निर्णय तालिका: स्थानीय Ollama बनाम यह API
| फीचर | स्थानीय Ollama | होस्टेड अनसेंसर्ड API |
|---|---|---|
| सेटअप जटिलता | उच्च (CUDA, Docker, कॉन्फ़िग) | कम (API कुंजी + बेस यूआरएल) |
| लागत मॉडल | हार्डवेयर कैपएक्स | प्रीपेड टोकन उपयोग |
| गोपनीयता | पूर्ण नियंत्रण | प्रॉम्प्ट प्रशिक्षण के लिए उपयोग नहीं किए जाते |
| संदर्भ विंडो | VRAM पर निर्भर | 100,000 टोकन |
| अपडेट | मैन्युअल | स्वचालित |
तकनीकी बाधाएं: कंटैक्स्ट विंडो और लिमिट्स
स्थानीय मॉडल आपके GPU VRAM द्वारा सीमित होते हैं। एक 7B मॉडल फिट हो सकता है, लेकिन बड़े मॉडल CPU पर स्विच कर सकते हैं, जिससे निष्कर्षण काफी धीमा हो जाता है। हमारी API 100,000 टोकन संदर्भ विंडो का समर्थन करती है, जिससे आपको स्थानीय हार्डवेयर सीमाओं के बिना बड़े दस्तावेजों को प्रोसेस करने की अनुमति मिलती है।
API प्रति अनुरोध 16,000 टोकन की अधिकतम आउटपुट सीमा लागू करता है। यदि आप max_tokens सेट नहीं करते हैं, तो डिफ़ॉल्ट 2,048 टोकन होता है। यह भुगतान की पूर्वानुमानितता और संसाधन आवंटन को सुनिश्चित करता है।
रेट लिमिट्स प्रति कुंजी प्रति मिनट 300 अनुरोधों पर सेट हैं। यह अधिकांश डेवलपमेंट और मॉडरेट प्रोडक्शन वर्कलोड के लिए पर्याप्त है। आप एक खाते के लिए एक सक्रिय कुंजी का उपयोग कर सकते हैं, यदि आवश्यक हो तो उसे प्रतिस्थापित करें।
बिलिंग पारदर्शिता: प्रीपेड बनाम सब्सक्रिप्शन
सब्सक्रिप्शन मॉडल अक्सर आइडल टाइम के लिए शुल्क लेते हैं। प्रीपेड टोकन बिलिंग केवल वही चार्ज करती है जिसे आप उपयोग करते हैं। हमारा क्रेडिट कभी समाप्त नहीं होता, इसलिए आप एक बार टॉप-अप कर सकते हैं और महीनों या वर्षों तक इसका उपयोग कर सकते हैं।
भुगतान केवल क्रिप्टो पर है: USDT (TRC20) या USDC (Base)। आप $20 से $500 की पूर्ण राशि जमा कर सकते हैं। बोनस क्रेडिट स्वचालित रूप से जोड़ा जाता है: $50 से +5%, $100 से +10%, और $200 से +15%।
नए खातों को $0.50 का ट्रायल क्रेडिट मिलता है जो 7 दिनों के लिए वैध है। डबल चार्ज जैसे गलतियां सपोर्ट पेज के माध्यम से ठीक की जाती हैं, लेकिन क्रेडिट स्वयं अदला-बदली योग्य नहीं है।
FAQ: Common Ollama API Questions
अनसेंसर मॉडल का उपयोग कैसे करें? रिक्वेस्ट भेजें हमारे बेस URL पर मॉडल ID "अनकैप्ड" के साथ। यह तापमान, top_p, और stop जैसे स्टैंडर्ड OpenAI SDK पैरामीटर स्वीकार करता है। मॉडल कानूनी वयस्क या विवादास्पद विषयों को अस्वीकार नहीं करता है।
क्या यह आधिकारिक Ollama API है? नहीं। हम एक स्वतंत्र सेवा है। Ollama स्थानीय रूप से मॉडल चलाने का एक टूल है। हम एक अलग ओपन-वेइट मॉडल को एक OpenAI-संगत एंडपॉइंट के माध्यम से होस्ट करते हैं।
यदि क्रेडिट खत्म हो जाता है तो क्या होता है? अनुरोध तब तक विफल रहेंगे जब तक कि आप टॉप अप न करें। आप किसी भी समय क्रिप्टो के माध्यम से क्रेडिट जोड़ सकते हैं। आपका मौजूदा क्रेडिट समाप्त नहीं होता है।
क्या आप मेरे प्रॉम्प्ट्स को ट्रेनिंग के लिए इस्तेमाल करते हैं? नहीं। हम आपके प्रॉम्प्ट्स का उपयोग प्रशिक्षण के लिए नहीं करते हैं। आपका डेटा निजी रहता है।
सामान्य प्रश्न
अनकेंसरड API के लिए संदर्भ विंडो क्या है?
API प्रॉम्प्ट और पूर्णता दोनों के लिए 100,000 टोकन संदर्भ विंडो का समर्थन करता है। यह आपको स्थानीय VRAM बाधाओं के बिना बड़े दस्तावेज़ों को संसाधित करने की अनुमति देता है। अधिकतम आउटपुट प्रति अनुरोध 16,000 टोकन है।
API के लिए मैं भुगतान कैसे करूं?
भुगतान केवल क्रिप्टो-ओनली USDT (TRC20) या USDC (Base) का उपयोग करते हैं। आप $20 से $500 तक कोई भी पूर्ण राशि जमा कर सकते हैं। बोनस क्रेडिट जमा के आकार के आधार पर जोड़ा जाता है, $200+ जमा पर अधिकतम +15% बोनस के साथ।
क्या मैं मौजूदा OpenAI SDK कोड का उपयोग कर सकता हूँ?
हाँ। API OpenAI-संगत है। आपको बस base_url को HTTPS://api.ollamaapidocs.com/v1 पर बदलने और अपनी API key अपडेट करने की आवश्यकता है। temperature और top_p जैसे सभी मानक पैरामीटर का समर्थन किया जाता है।
दर सीमाएं क्या हैं?
आप प्रति कुंजी प्रति मिनट 300 अनुरोधों और 8 समवर्ती अनुरोधों तक सीमित हैं। अनुरोध बॉई आकार 8 MB पर सीमित है। ये सीमाएं अधिकांश विकास और मध्यम उत्पादन लोड के लिए पर्याप्त हैं।
अपना API कुंजी
साइन अप करें, अपनी कुंजी कॉपी करें, और बेस यूआरएल अपडेट करें। शुरुआत के लिए बस इतना ही काफी है।
