API Ollama Docs: Швидкий старт

Базова URL-адреса та аутентифікація

Базовий URL-адреса: HTTPS://api.ollamaapidocs.com/v1. Передавайте свій ключ у стандартному заголовку Authorization.

Copycurl https://api.ollamaapidocs.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List installed models in the local directory"}]
  }'

Ендпоінт Chat Completions

Надсилайте запити POST до /v1/chat/completions із моделлю, встановленою на uncensored.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.ollamaapidocs.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Потокова передача та підтримка інструментів

Увімкніть потокову передачу, встановивши stream у true. API повертає токени через події, надані сервером (SSE) та підтримує виклик функцій.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Режим JSON та параметри

Використовуйте response_format json_object для суворих виводів JSON. Ви також можете налаштувати temperature, top_p та послідовності стопу.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.ollamaapidocs.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Ліміти частоти та обмеження

Ліміт становить 300 запитів на хвилину на один ключ. Кожен запит підтримує контекстне вікно на 100 000 токенів.

Copycurl https://api.ollamaapidocs.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List installed models in the local directory"}]
  }'

Помилки та контекстне вікно

Обробляйте помилки 401 для недійсних ключів, 402 для відсутності коштів та 429 для перевищення лімітів швидкості. Модель підтримує контекстне вікно на 100,000 токенів.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.ollamaapidocs.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)