Ollama API-dokumentation: Jämförelse av obegränsade API:er

Varför välja ett ofiltrerat API?

Ocensurerade API:n ger direkt åtkomst till modeller som inte vägrar lagliga vuxna, fiktiva eller kontroversiella ämnen. Denna approach tar bort behovet av att hantera modellspecifika beroenden eller finjustera alignment-lager själv.

Vår hostade tjänst levererar en modell med öppna vikter optimerad för minimal refusering. Du skickar standard textinput och får textoutput utan att behöva oroa dig för innehållsfilter som blockerar ditt arbetsflöde. API:t stöder streaming via SSE, funktionsanrop och JSON-läge, vilket säkerställer kompatibilitet med moderna utvecklarstackar.

Till skillnad från lokala deploymenter behöver du inte övervaka GPU-temperaturen eller hantera drivrutinsuppdateringar. Infrastrukturen skalar automatiskt, vilket gör att du kan fokusera på att bygga din applikation snarare än att underhålla din server.

Lokalt Ollama vs. Hostad API: Kompromissen

Lokal distribution erbjuder full dataintegritet och noll latens över WAN, men kräver betydande hållvaruhantering. Du måste konfigurera CUDA-drivrutiner, Docker-containers och miljövariabler som OLLAMA_HOST.

Värda API:er abstraherar hårdvaran. Du ansluter med en bas-URL och en API-nyckel, precis som du skulle göra med stora molnleverantörer. Detta eliminerar behovet av NVIDIA Container Toolkit eller att hantera lokala modellfiler.

Kompromissen är kostnad kontra bekvämlighet. Lokala körningar är gratis efter hårdvaruköp, medan hostade API:er tar ut betalt per token. Vid tillfälligt bruk eller snabb prototypning är den hostade vägen ofta snabbare att distribuera.

Kostnadsjämförelse: GPU-hårdvara vs. Tokenbaserad fakturering

Lokal inferenskostnad är fix: du köper GPU:en en gång. Hostad fakturering skalar med användning. Vår modell kostar $0.15 per 1M ingångstokens och $0.50 per 1M utgångstokens. Denna förbetalmall innebär att fel och avslag är gratis, så du betalar bara för faktiska resultat.

För högvolymproduktion vinner lokal hårdvara vanligtvis på pris. För sporadisk utveckling eller små team undviker förbetald tokenfakturering överhead från stillastående GPU-resurser. Du kan fylla på med krypto från $20, med bonuskredit tillgänglig för större insättningar.

Ingen månadlig prenumeration binder dig. Kredit löper inte ut, vilket gör att du kan pausa användningen utan att förlora medel.

Prestanda: Docker, CUDA och lokala begränsningar

Lokal prestanda beror starkt på din CUDA-version och hårdvarugeneration. Ollama stöder CUDA 5.0+, men moderna modeller presterar bäst på Ampere-arkitektur eller nyare. VLLM kräver till exempel Volta eller nyare.

Docker lägger till en liten överhead men förenklar hanteringen av beroenden. Du kan använda verktyg som Coolify för att sätta upp Ollama med Open Webgui med minimal ansträngning. Du måste dock se till att variabeln OLLAMA_HOST är inställd korrekt, ofta till 0.0.0.0 för extern åtkomst.

Värda API:er erbjuder konsekvent oavsett din lokala maskin. Detta är avgörande när du behöver förutsägbar latens för realtidsapplikationer.

Beslutstabell: Lokalt Ollama vs. Detta API

Funktion	Lokal Ollama	Värd ofiltrerat API
Installationskomplexitet	Hög (CUDA, Docker, Konfiguration)	Låg (API-nyckel + Bas-URL)
Kostnadsmodell	Hårdvara CapEx	Förbetad Tokenanvändning
Integritet	Full kontroll	Prompts används inte för träning
Kontextfönster	Beroende på VRAM	100 000 tokens
Uppdateringar	Manuell	Automatisk

Tekniska begränsningar: Kontextfönster och gränser

Lokala modeller är begränsade av ditt GPU-minne. En 7B-modell kan få plats, men större modeller kommer att byta till CPU, vilket sänker inferensen avsevärt. Vårt API stöder ett kontextfönster på 100 000 token, vilket gör att du kan bearbeta stora dokument utan begränsningar för lokal hårdvara.

API:et begränsar till 16 000 tokens max utmatning per förfrågan. Om du inte anger max_tokens är standardvärdet 2 048 tokens. Detta säkerställer förutsägbar fakturering och resursallokering.

Ratebegränsningarna är inställda på 300 förfrågningar per minut per nyckel. Detta räcker för de flesta utvecklings- och måttliga produktionsarbetsbelastningar. Du kan använda en aktiv nyckel per konto och ersätta den vid behov.

Faktureringstransparens: Förbetalt vs. Prenumeration

Prenumerationsmodeller debiterar ofta för stillastående tid. Förbetald tokenfakturering debiterar endast för det du använder. Din kredit löper aldrig ut, så du kan fylla på en gång och använda den över månader eller år.

Betalningar är endast krypto: USDT (TRC20) eller USDC (Base). Du kan sätta in vilket heltal som helst från $20 till $500. Bonuskredit läggs till automatiskt: +5% från $50, +10% från $100 och +15% från $200.

Nya konton får $0.50 i provkredit giltigt i 7 dagar. Misstag som dubbla debiteringar åtgärdas via Support-sidan, men kredit i sig är icke-återbetalningsbar.

FAQ: Vanliga Ollama API-frågor

Hur använder jag den obegränsade modellen? Skicka begäranden till vår bas-URL med modell-ID:t "uncensored". Den accepterar standard OpenAI SDK-parametrar som temperature, top_p och stop. Modellen vägrar inte lagliga vuxna eller kontroversiella ämnen.

Är detta det officiella Ollama API:t? Nej. Vi är en oberoende tjänst. Ollama är ett verktyg för att köra modeller lokalt. Vi värdar en annan modell med öppen vikt via en OpenAI-kompatibel slutpunkt.

Vad händer om jag tar slut på kredit? Förfrågningar kommer att misslyckas tills du ökar saldet. Du kan lägga till kredit via krypto när som helst. Din befintliga kredit löper inte ut.

Använder du mina prompts för träning? Nej. Vi använder inte dina prompts för träning. Din data förblir privat.