Dokumentasi API Ollama: Panduan Memulai Cepat
Panduan ini menyediakan detail konkret untuk API kompatibel OpenAI kami, memungkinkan Anda mengganti model tanpa sensor kami tanpa mengubah kode klien yang sudah ada.
URL Dasar dan Autentikasi
URL dasar adalah HTTPS://api.ollamaapidocs.com/v1. Kirimkan kunci Anda dalam header Authorization standar.
curl https://api.ollamaapidocs.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "List installed models in the local directory"}]
}'Endpoint Chat Completions
Kirim permintaan POST ke /v1/chat/completions dengan model diatur ke uncensored.
from openai import OpenAI
client = OpenAI(base_url="https://api.ollamaapidocs.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)Dukungan Streaming dan Alat
Aktifkan streaming dengan mengatur stream menjadi true. API mengembalikan token melalui Server-Sent Events dan mendukung pemanggilan fungsi.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)Mode JSON dan Parameter
Gunakan response_format json_object untuk output JSON ketat. Anda juga dapat menyesuaikan suhu, top_p, dan urutan berhenti.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.ollamaapidocs.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);Batas Laju dan Kendala
Batasnya adalah 300 permintaan per menit per kunci. Setiap permintaan mendukung jendela konteks 100.000 token.
curl https://api.ollamaapidocs.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "List installed models in the local directory"}]
}'Error dan Jendela Konteks
Tangani 401 untuk kunci tidak valid, 402 untuk tidak ada kredit, dan 429 untuk batas laju. Model mendukung jendela konteks 100,000 token.
from openai import OpenAI
client = OpenAI(base_url="https://api.ollamaapidocs.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)Pertanyaan umum
Apa dokumen API ollama untuk layanan ini?
Panduan ini mencakup URL dasar, autentikasi, dan endpoint untuk API yang dihosting kami. Ini memungkinkan Anda menggunakan SDK OpenAI standar dengan model uncensored kami.
Bagaimana cara menangani respons streaming?
Atur parameter stream menjadi true dalam permintaan Anda. API mengembalikan token melalui Server-Sent Events, memungkinkan pemrosesan real-time.
Apa yang terjadi jika saya melebihi batas laju?
Anda akan menerima kode status 429. Batasnya adalah 300 permintaan per menit per kunci, dengan maksimal 8 permintaan secara bersamaan.
Hasilkan kunci API
Daftar, salin kunci Anda, dan perbarui URL dasar. Itu saja yang Anda butuhkan untuk memulai.
