Dokumentace Ollama API: Srovnání API bez omezení

Proč zvolit API bez omezení?

Nekontrolovaná API poskytují přímý přístup k modelům, které neodmítají zákonné dospělé, fiktivní nebo kontroverzní témata. Tento přístup odstraňuje potřebu spravovat modelově specifické závislosti nebo ladit vrstvy zarovnání sami.

Naše hostovaná služba poskytuje model s otevřenými váhami optimalizovaný pro minimální odmítání. Posíláte standardní textový vstup a dostáváte textový výstup bez obav z filtrů obsahu, které by blokovaly váš pracovní postup. API podporuje streamování přes SSE, volání funkcí a režim JSON, což zajišťuje kompatibilitu s moderními vývojářskými technologiemi.

Na rozdíl od lokálních nasazení nemusíte monitorovat teplotu GPU ani řešit aktualizace ovladačů. Infrastruktura se automaticky škáluje, což vám umožňuje soustředit se na tvorbu aplikace místo údržby serveru.

Lokální Ollama vs Hostované API: Kompromis

Lokální nasazení nabízí plné soukromí dat a nulovou latenci přes WAN, ale vyžaduje významnou správu hardwaru. Musíte nakonfigurovat ovladače CUDA, kontejnery Docker a proměnné prostředí jako OLLAMA_HOST.

Hostovaná API abstrahují hardware. Připojíte se pomocí základního URL a klíče API, stejně jako u hlavních cloudových poskytovatelů. To eliminuje potřebu NVIDIA Container Toolkitu nebo správy lokálních souborů modelů.

Kompromisem je náklad versus pohodlí. Lokální běhy jsou zdarma po koupi hardwaru, zatímco hostovaná API účtují za token. Pro příležitostné použití nebo rychlé prototypování je hostovaná cesta často rychlejší na nasazení.

Srovnání nákladů: GPU hardware vs. fakturace za tokeny

Náklady na lokální inferenci jsou fixní: GPU si koupíte jednou. Hostované fakturování škáluje s využitím. Náš model stojí $0,15 za 1M vstupních tokenů a $0,50 za 1M výstupních tokenů. Tento předplacený model znamená, že chyby a odmítnutí jsou zdarma, takže platíte pouze za skutečné výsledky.

Pro produkční nasazení s vysokým objemem obvykle vyhrává lokální hardware cenou. Pro sporadický vývoj nebo malé týmy předplacené fakturování tokenů vyhýbá se nákladům na nečinné GPU zdroje. Dobití lze provést kryptoměnami od $20, přičemž za větší vklady je k dispozici bonusový kredit.

Žádné měsíční předplatné vás nezavazuje. Kredit nevyprší, což vám umožňuje pozastavit používání bez ztráty prostředků.

Výkon: Docker, CUDA a lokální omezení

Lokální výkon závisí silně na vaší verzi CUDA a generaci hardwaru. Ollama podporuje CUDA 5.0+, ale moderní modely nejlépe fungují na architektuře Ampere nebo novější. VLLM například vyžaduje Volta nebo novější.

Docker přidává mírnou režii, ale zjednodušuje správu závislostí. Pomocí nástrojů, jako je Coolify, můžete snadno nasadit Ollamu s Open Webgui. Musíte však zajistit, aby byla proměnná OLLAMA_HOST správně nastavena, často na 0.0.0.0 pro externí přístup.

Hostovaná API nabízejí konzistentní výkon bez ohledu na váš lokální stroj. To je zásadní, když potřebujete předvídatelnou latenci pro aplikace v reálném čase.

Rozhodovací tabulka: Lokální Ollama vs. Toto API

Funkce	Lokální Ollama	Hostované neomezené API
Složitost nastavení	Vysoká (CUDA, Docker, Konfigurace)	Nízká (Klíč API + Základní URL)
Cenový model	Hardware CapEx	Využití tokenů předplacených
Ochrana soukromí	Plná kontrola	Prompty nejsou používány k trénování
Okno kontextu	Závisí na VRAM	100 000 tokenů
Aktualizace	Manuální	Automatické

Technická omezení: Kontextové okno a limity

Lokální modely jsou omezeny VRAM vaší GPU. Model 7B se může vejít, ale větší modely budou přesouvat data do CPU, což významně zpomalí inferenci. Naše API podporuje kontextové okno o velikosti 100 000 tokenů, což vám umožňuje zpracovávat velké dokumenty bez omezení lokálního hardwaru.

API omezuje maximální výstup na 16 000 tokenů na požadavek. Pokud nenastavíte max_tokens, výchozí hodnota je 2 048 tokenů. To zajišťuje předvídatelné fakturování a alokaci zdrojů.

Limity rychlosti jsou nastaveny na 300 požadavků za minutu na klíč. To stačí pro většinu vývojových a mírných produkčních zátěží. Můžete použít jeden aktivní klíč na účet, který při potřebě nahradíte.

Transparentnost fakturování: Předplacené vs. Předplatné

Modely předplatného často účtují za nečinnost. Předplacené fakturování tokenů zpoplatňuje pouze to, co použijete. Váš kredit nevyprší, takže jej můžete doplnit jednou a používat jej po měsíce nebo roky.

Platby jsou pouze v kryptoměnách: USDT (TRC20) nebo USDC (Base). Můžete vložit libovolnou celou částku od $20 do $500. Bonusový kredit se přidává automaticky: +5 % od $50, +10 % od $100 a +15 % od $200.

Nové účty obdrží $0.50 v zkušebním kreditu platný po 7 dní. Chyby, jako je dvojí účtování, se řeší prostřednictvím stránky Podpora, ale kredit jako takový je nevratný.

FAQ: Časté otázky k API Ollama

Jak použít model uncensored? Posílejte požadavky na naši základní URL s ID modelu „uncensored“. Akceptuje standardní parametry OpenAI SDK, jako jsou teplota, top_p a stop. Model neodmítá zákonné témy pro dospělé nebo kontroverzní témata.

Je to oficiální API Ollama? Ne. Jsme nezávislá služba. Ollama je nástroj pro běh modelů lokálně. My hostujeme jiný model s otevřenou vahou přes endpoint kompatibilní s OpenAI.

Co se stane, když mi dojde kredit? Požadavky selžou, dokud si nedobijete kredit. Přidání kreditu můžete provést pomocí kryptoměn kdykoli. Váš stávající kredit nevyprší.

Používáte moje prompty pro trénink? Ne. Promptů nepoužíváme k trénování. Vaše data zůstávají soukromá.