fi ▾

Ollama API -dokumentit: Pika-aloitusopas

Tämä opas tarjoaa konkreettiset tiedot OpenAI-yhteensopivasta API:stamme, joka mahdollistaa sisällöntarkastuksettomme mallin vaihtamisen ilman olemassa olevan asiakaskoodin muutoksia.

Perus-URL ja todennus

Perus-URL on HTTPS://api.ollamaapidocs.com/v1. Syötä avaimesi standardiin Authorization-headeriin.

curl https://api.ollamaapidocs.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List installed models in the local directory"}]
  }'

Chat Completions Endpoint

Lähetä POST-pyyntöjä osoitteeseen /v1/chat/completions asettamalla malli arvoksi uncensored.

from openai import OpenAI

client = OpenAI(base_url="https://api.ollamaapidocs.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Virran ja työkalutuki

Ota käyttöön suoratoisto asettamalla stream arvoon true. API palauttaa tokenit palvelimen lähettämien tapahtumien kautta ja tukee funktiokutsuja.

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

JSON-tila ja parametrit

Käytä muotoa response_format json_object tiukkaan JSON-lähtöön. Voit myös säätää lämpötilaa, top_p:ää ja stop-jonoja.

import OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.ollamaapidocs.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Nopeusrajoitukset ja rajoitukset

Raja on 300 pyyntöä minuutissa avainta kohden. Jokainen pyyntö tukee 100 000 tokenin kontekstiikkunaa.

curl https://api.ollamaapidocs.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List installed models in the local directory"}]
  }'

Virheet ja kontekstiaukko

Käsittele 401-virhe virheellisistä avaimista, 402-virhe riittämättömästä saldon muodostumisesta ja 429-virhe nopeusrajoituksista. Malli tukee 100,000 tokenin konteksti-ikkunaa.

from openai import OpenAI

client = OpenAI(base_url="https://api.ollamaapidocs.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Yleiset kysymykset

Mistä löytyy tämän palvelun ollama-API:n dokumentaatio?

Tämä opas kattaa perus-URL:n, todennuksen ja päätepisteet isännöidylle API:lle. Se mahdollistaa standardien OpenAI-SDK:iden käytön uncensored-mallimme kanssa.

Miten käsittelemme suoratoistovastauksia?

Aseta stream-parametri arvoksi true pyynnössäsi. API palauttaa tokenit Server-Sent Eventsin kautta, mikä mahdollistaa reaaliaikaisen käsittelyn.

Mitä tapahtuu, jos ylityt nopeusrajan?

Saat 429-tilakoodin. Raja on 300 pyyntöä minuutissa per avain enintään 8 rinnakkaista pyyntöä.

Luo sinun API-avaimesi

Rekisteröidy, kopioi avaimesi ja päivitä base URL. Se on kaikki mitä tarvitset aloittaaksesi.

Luo avaimia