ms ▾

Dokumen API Ollama: Panduan Mula Pantas

Panduan ini menyediakan butiran konkrit untuk API serasi OpenAI kami, membolehkan anda menggantikan model tanpa sensor kami tanpa mengubah kod klien sedia ada.

URL Asas dan Pengesahan

URL asas ialah HTTPS://api.ollamaapidocs.com/v1. Hantar kunci anda dalam header Authorization standard.

curl https://api.ollamaapidocs.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List installed models in the local directory"}]
  }'

Hujung Sambungan Penyelesaian Sembang

Hantar permintaan POST ke /v1/chat/completions dengan model ditetapkan kepada uncensored.

from openai import OpenAI

client = OpenAI(base_url="https://api.ollamaapidocs.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Sokongan Alat dan Streaming

Aktifkan penstriman dengan menetapkan stream kepada true. API mengembalikan token melalui Acara yang Dihantar Pelayan dan menyokong pemanggilan fungsi.

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Mod JSON dan Parameter

Gunakan format respons json_object untuk output JSON yang ketat. Anda juga boleh melaraskan suhu, top_p, dan jujukan henti.

import OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.ollamaapidocs.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Had had laju dan kekangan

Had ialah 300 permintaan setiap minit setiap kunci. Setiap permintaan menyokong jendela konteks 100,000 token.

curl https://api.ollamaapidocs.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List installed models in the local directory"}]
  }'

Ralau dan Jendela Konteks

Tangani 401 untuk kunci tidak sah, 402 untuk tiada kredit, dan 429 untuk had kadar. Model ini menyokong jendela konteks 100,000 token.

from openai import OpenAI

client = OpenAI(base_url="https://api.ollamaapidocs.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Soalan biasa

Apakah dokumen API ollama untuk perkhidmatan ini?

Panduan ini merangkumi URL asas, pengesahan, dan titik akhir untuk API yang dihoskan kami. Ia membolehkan anda menggunakan SDK OpenAI standard dengan model tanpa sensor kami.

Bagaimana cara mengendalikan respons aliran?

Tetapkan parameter stream kepada true dalam permintaan anda. API mengembalikan token melalui Server-Sent Events, membolehkan pemprosesan masa nyata.

Apa yang berlaku jika saya melebihi had kadar?

Anda akan menerima kod status 429. Hadnya ialah 300 permintaan setiap minit per kunci, dengan maksimum 8 permintaan serentak.

Jana kunci API anda

Daftar, salin kunci anda, dan kemas kini URL asas. Itu sahaja yang anda perlukan untuk mula.

Buat kunci