API Ollama Docs: Οδηγός Γρήγορης Έναρξης
Αυτό το εγχειρίδιο παρέχει τις συγκεκριμένες λεπτομέρειες για την API μας συμβατή με OpenAI, επιτρέποντάς σας να αντικαταστήσετε το μοντέλο μας χωρίς λογοκρισία χωρίς να αλλάξετε τον υπάρχοντα κώδικα του πελάτη σας.
Βασικό URL και Αυθεντικοποίηση
Η βασική διεύθυνση URL είναι HTTPS://api.ollamaapidocs.com/v1. Δώστε το κλειδί σας στον τυπικό header Authorization.
curl https://api.ollamaapidocs.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "List installed models in the local directory"}]
}'
Τερματικό Συμπληρώματος Συζήτησης
Στείλτε αιτήματα POST στο /v1/chat/completions με το model ρυθμισμένο σε uncensored.
from openai import OpenAI
client = OpenAI(base_url="https://api.ollamaapidocs.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)
Υποστήριξη Ροής και Εργαλείων
Ενεργοποιήστε τη ροή (streaming) ορίζοντας stream σε true. Η API επιστρέφει tokens μέσω Server-Sent Events και υποστηρίζει function calling.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
Λειτουργία JSON και Παράμετροι
Χρησιμοποιήστε response_format json_object για αυστηρή έξοδο JSON. Μπορείτε επίσης να προσαρμόσετε τη θερμοκρασία, το top_p και τις ακολουθίες stop.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.ollamaapidocs.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);
Όρια Ρυθμού και Περιορισμοί
Το όριο είναι 300 αιτήματα ανά λεπτό ανά key. Κάθε αίτημα υποστηρίζει παράθυρο συνάφειας 100.000 tokens.
curl https://api.ollamaapidocs.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "List installed models in the local directory"}]
}'
Σφάλματα και Παράθυρο Πλαισίου
Διαχειριστείτε το 401 για μη έγκυρα keys, το 402 για έλλειψη credit και το 429 για όρια ρυθμού. Το μοντέλο υποστηρίζει παράθυρο συνάφειας 100,000 tokens.
from openai import OpenAI
client = OpenAI(base_url="https://api.ollamaapidocs.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)Συχνές ερωτήσεις
Ποια είναι τα docs API ollama για αυτή την υπηρεσία;
Αυτή η οδηγία καλύπτει τη base URL, την πιστοποίηση και τα endpoints για την φιλοξενούμενη API μας. Σας επιτρέπει να χρησιμοποιήσετε τυπικές βιβλιοθήκες OpenAI SDK με το uncensored μοντέλο μας.
Πώς διαχειρίζομαι αποκρίσεις streaming;
Ορίστε την παράμετρο stream σε true στην αίτησή σας. Το API επιστρέφει tokens μέσω Server-Sent Events, επιτρέποντας επεξεργασία σε πραγματικό χρόνο.
Τι συμβαίνει αν ξεπεράσω το όριο ρυθμού;
Θα λάβετε κωδικό κατάστασης 429. Το όριο είναι 300 αιτήματα ανά λεπτό ανά κλειδί, με μέγιστο 8 ταυτόχρονες αιτήσεις.
Δημιουργήστε το API key σας
Εγγραφείτε, αντιγράψτε το key σας, και ενημερώστε τη βάση URL. Αυτό είναι ό,τι χρειάζεστε για να ξεκινήσετε.