תיעוד ממשק API של Ollama: מדריך התחלה מהירה
מדריך זה מספק את הפרטים המדויקים ל-API שלנו התואם ל-OpenAI, המאפשרים לך להחליף את המודל הגלוי שלנו (uncensored) ללא שינוי בקוד הלקוח הקיים שלך.
כתובת URL בסיסית ואימות
כתובת הבסיס היא HTTPS://api.ollamaapidocs.com/v1. העבר את המפתח שלך ב-header ה-Authorization הסטנדרטי.
curl https://api.ollamaapidocs.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "List installed models in the local directory"}]
}'
נקודת קצה להשלמות צ'אט
שלח בקשות POST ל-/v1/chat/completions עם המודל מוגדר ל-uncensored.
from openai import OpenAI
client = OpenAI(base_url="https://api.ollamaapidocs.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)
תמיכה בשידור חי וכלים
אפשרו סטרימינג על ידי הגדרת stream ל-true. ה-API מחזיר טוקנים באמצעות אירועים מוכווני שרת ותומך בשימוש בפונקציות.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
מצב JSON ופרמטרים
השתמשו בפרמטר response_format json_object לתפוקת JSON קפדנית. אתם יכולים גם להתאים את הטמפרטורה, top_p ורצפי העצירה.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.ollamaapidocs.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);
מגבלות קצב ואילוצים
המגבלה היא 300 בקשות לדקה לכל מפתח. כל בקשה תומכת בחלון הקשר של 100,000 אסימונים.
curl https://api.ollamaapidocs.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "List installed models in the local directory"}]
}'
שגיאות וחלון ההקשר
טפלו בשגיאת 401 למפתחות לא חוקיים, 402 לחסר אשראי, ו-429 למגבלות קצב. המודל תומך בחלון הקשר של 100,000 טוקנים.
from openai import OpenAI
client = OpenAI(base_url="https://api.ollamaapidocs.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)שאלות נפוצות
מהו תיעוד ה-API של Ollama לשירות זה?
מדריך זה מכסה את כתובת הבסיס, האימות ונקודות הקצה של ה-API המארח שלנו. הוא מאפשר לך להשתמש ב-SDKs סטנדרטיים של OpenAI עם המודל ללא צנזורה שלנו.
כיצד לטפל בתגובות סטרימינג?
הגדירו את פרמטר stream ל- true בבקשה שלכם. ה-API שולף טוקנים באמצעות אירועים שנשלחו על ידי השרת, המאפשרים עיבוד בזמן אמת.
מה קורה אם אעבור את מגבלת הקצב?
תקבלו קוד סטטוס 429. המגבלה היא 300 בקשות לדקה לכל מפתח, עם מקסימום של 8 בקשות מקבילות.
צור את מפתח ה-API שלך
הירשמו, העתיקו את המפתח שלכם, ועדכנו את כתובת ה-URL הבסיסית. זה כל מה שצריך כדי להתחיל.