Dokumen API Ollama: Panduan Mula Pantas
Panduan ini menyediakan butiran konkrit untuk API serasi OpenAI kami, membolehkan anda menggantikan model tanpa sensor kami tanpa mengubah kod klien sedia ada.
URL Asas dan Pengesahan
URL asas ialah HTTPS://api.ollamaapidocs.com/v1. Hantar kunci anda dalam header Authorization standard.
curl https://api.ollamaapidocs.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "List installed models in the local directory"}]
}'
Hujung Sambungan Penyelesaian Sembang
Hantar permintaan POST ke /v1/chat/completions dengan model ditetapkan kepada uncensored.
from openai import OpenAI
client = OpenAI(base_url="https://api.ollamaapidocs.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)
Sokongan Alat dan Streaming
Aktifkan penstriman dengan menetapkan stream kepada true. API mengembalikan token melalui Acara yang Dihantar Pelayan dan menyokong pemanggilan fungsi.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
Mod JSON dan Parameter
Gunakan format respons json_object untuk output JSON yang ketat. Anda juga boleh melaraskan suhu, top_p, dan jujukan henti.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.ollamaapidocs.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);
Had had laju dan kekangan
Had ialah 300 permintaan setiap minit setiap kunci. Setiap permintaan menyokong jendela konteks 100,000 token.
curl https://api.ollamaapidocs.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "List installed models in the local directory"}]
}'
Ralau dan Jendela Konteks
Tangani 401 untuk kunci tidak sah, 402 untuk tiada kredit, dan 429 untuk had kadar. Model ini menyokong jendela konteks 100,000 token.
from openai import OpenAI
client = OpenAI(base_url="https://api.ollamaapidocs.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)Soalan biasa
Apakah dokumen API ollama untuk perkhidmatan ini?
Panduan ini merangkumi URL asas, pengesahan, dan titik akhir untuk API yang dihoskan kami. Ia membolehkan anda menggunakan SDK OpenAI standard dengan model tanpa sensor kami.
Bagaimana cara mengendalikan respons aliran?
Tetapkan parameter stream kepada true dalam permintaan anda. API mengembalikan token melalui Server-Sent Events, membolehkan pemprosesan masa nyata.
Apa yang berlaku jika saya melebihi had kadar?
Anda akan menerima kod status 429. Hadnya ialah 300 permintaan setiap minit per kunci, dengan maksimum 8 permintaan serentak.
Jana kunci API anda
Daftar, salin kunci anda, dan kemas kini URL asas. Itu sahaja yang anda perlukan untuk mula.