Ollama API दस्तावेज़: क्विकस्टार्ट गाइड
यह गाइड हमारे OpenAI-कम्पैटिबल API के लिए विस्तृत विवरण प्रदान करती है, जिससे आप बिना अपने मौजूदा क्लाइंट कोड को बदले अपना अनसेंसर्ड मॉडल स्विप कर सकते हैं।
बेस URL और प्रमाणीकरण
बेस यूआरएल HTTPS://api.ollamaapidocs.com/v1 है। अपने कुंजी मानक Authorization हेडर में पास करें।
curl https://api.ollamaapidocs.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "List installed models in the local directory"}]
}'चैट कंप्लीशंस एंडपॉइंट
POST अनुरोध भेजें /v1/chat/completions मॉडल को uncensored सेट करके।
from openai import OpenAI
client = OpenAI(base_url="https://api.ollamaapidocs.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)स्ट्रीमिंग और टूल सहायता
अपने अनुरोध में stream को true सेट करके स्ट्रीमिंग सक्षम करें। API सर्वर-सेंट इवेंट्स के माध्यम से टोकन लौटाता है और फ़ंक्शन कॉलिंग का समर्थन करता है।
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)JSON मोड और पैरामीटर
सख्त JSON आउटपुट के लिए response_format json_object का उपयोग करें। आप तापमान, top_p और स्टॉप सीक्वेंस को भी एडजस्ट कर सकते हैं।
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.ollamaapidocs.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);रेट लिमिट्स और बाधाएँ
सीमा प्रति कुंजी प्रति मिनट 300 अनुरोध है। प्रत्येक अनुरोध 100,000 टोकन की कॉन्टेक्स्ट विंडो का समर्थन करता है।
curl https://api.ollamaapidocs.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "List installed models in the local directory"}]
}'त्रुटियां और संदर्भ विंडो
अमान्य कुंजियों के लिए 401, क्रेडिट न होने के लिए 402, और दर सीमाओं के लिए 429 हैंडल करें। मॉडल 100,000 टोकन की संदर्भ विंडो का समर्थन करता है।
from openai import OpenAI
client = OpenAI(base_url="https://api.ollamaapidocs.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)सामान्य प्रश्न
इस सेवा के लिए ollama API डॉक क्या है?
यह गाइ हमारी होस्टेड API के लिए बेस URL, प्रमाणीकरण, और एंडपॉइंट्स कवर करती है। यह आपको हमारे uncensored मॉडल के साथ मानक OpenAI SDK का उपयोग करने की अनुमति देता है।
मैं स्ट्रीमिंग प्रतिक्रियाओं को कैसे हैंडल करूं?
अपने अनुरोध में stream पैरामीटर को true सेट करें। API Server-Sent Events के माध्यम से टोकन भेजता है, जिससे रियल-टाइम प्रोसेसिंग संभव होती है।
यदि रेट लिमिट से अधिक हो जाता हूँ तो क्या होता है?
आपको 429 स्टेटस कोड प्राप्त होगा। सीमा प्रति कुंजी 300 अनुरोध प्रति मिनट है, जिसमें अधिकतम 8 समवर्ती अनुरोध शामिल हैं।
अपना API कुंजी
साइन अप करें, अपनी कुंजी कॉपी करें, और बेस यूआरएल अपडेट करें। शुरुआत के लिए बस इतना ही काफी है।
