Tài liệu Ollama API: Hướng dẫn Bắt đầu nhanh

Base URL và Xác thực

URL cơ sở là HTTPS://api.ollamaapidocs.com/v1. Truyền khóa của bạn trong header Authorization tiêu chuẩn.

Copycurl https://api.ollamaapidocs.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List installed models in the local directory"}]
  }'

Endpoint Hoàn thành Trò chuyện

Gửi các yêu cầu POST đến /v1/chat/completions với mô hình được đặt thành không kiểm duyệt.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.ollamaapidocs.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Hỗ trợ Streaming và Công cụ

Bật chế độ streaming bằng cách đặt stream thành true. API trả về các token thông qua các Sự kiện được gửi bởi máy chủ và hỗ trợ gọi hàm.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Chế độ JSON và tham số

Sử dụng response_format json_object cho đầu ra JSON nghiêm ngặt. Bạn cũng có thể điều chỉnh nhiệt độ, top_p và các chuỗi dừng.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.ollamaapidocs.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Giới hạn tốc độ và Ràng buộc

Giới hạn là 300 yêu cầu mỗi phút cho mỗi khóa. Mỗi yêu cầu hỗ trợ cửa sổ ngữ cảnh 100.000 token.

Copycurl https://api.ollamaapidocs.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List installed models in the local directory"}]
  }'

Lỗi và Cửa sổ ngữ cảnh

Xử lý mã 401 cho khóa không hợp lệ, 402 cho không có tiền, và 429 cho giới hạn tốc độ. Mô hình hỗ trợ cửa sổ ngữ cảnh 100,000 token.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.ollamaapidocs.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)