Ollama API Dokumentáció: Uncensored API Összehasonlítás

Miért válassz cenzúrázatlan API-t?

Az uncensored API-k közvetlen hozzáférést biztosítanak olyan modellekhez, amelyek nem utasítanak vissza törvényes felnőtt, fikciós vagy vitatott témákat. Ez a megközelítés megszünteti a modellspecifikus függőségek kezelésének vagy az illesztési rétegek finomhangolásának szükségességét.

A hosztolt szolgáltatás egy nyílt súlyozású modellt szállít, amelyet a minimális visszautasításra optimalizáltak. Standard szöves bemenetet küldesz, és szöves kimenetet kapsz anélkül, hogy aggódnál a tartamszűrők miatt, amelyek blokkolhatják a munkafolyamatodat. Az API támogatja a streamelést SSE-n keresztül, a függvényhívást és a JSON módot, biztosítva a kompatibilitást a modern fejlesztői technológiákkal.

A helyi telepítésekkel ellentétben nem kell figyelned a GPU hőmérsékletét, vagy kezelned a illesztőprogram-frissítéseket. Az infrastruktúra automatikusan skálázódik, így arra fókuszálhatsz, hogy építsd az alkalmazásodat, ahelyett, hogy a szerveredet karbantartanád.

Helyi Ollama vs. Hosztolt API: A kompromisszum

A helyi telepítés teljes adatvédelmet és nulla WAN-késést kínál, de jelentős hardverkezelést igényel. Be kell állítanod a CUDA illesztőprogramokat, a Docker konténereket és környezeti változókat, mint például az OLLAMA_HOST.

A Hosted API-k elvonják a hardver kezelését. Egy base URL és egy API kulcs segítségével csatlakozik, pontosan úgy, ahogy a nagy felhőszolgáltatók esetén. Ez megszünteti az NVIDIA Container Toolkit szükségességét vagy a helyi modellfájlok kezelését.

Az árnyékoldal a költség és a kényelem közötti egyensúly. A helyi futtatás ingyenes hardvervásárlás után, míg a hosztolt API tokenenként számít fel díjat. Ritka felhasználás vagy gyors prototípuskészítés esetén a hosztolt út gyakran gyorsabban telepíthető.

Költségösszehasonlítás: GPU hardver vs. Token alapú számlázás

A helyi inferencia költségei fixek: egyszer veszel egy GPU-t. A hosztolt számlázás a felhasználással skálázódik. Modellünk $0.15-öt számít fel 1M bemeneti tokenenként és $0.50-t 1M kimeneti tokenenként. Ez a előre fizetett modell azt jelenti, hogy a hibák és a visszautasítások ingyenesek, így csak a tényleges eredményekért fizetsz.

Nagy volumenű produkciós környezetben a helyi hardver általában nyer az ár szempontjából. Sporadikus fejlesztéshez vagy kis csapatokhoz az előre fizetett token számlázás elkerüli a tétlen GPU erőforrások terheit. Kriptovalutával lehet feltölteni $20-tól kezdődően, nagyobb befizetések esetén bónusz kredit elérhető.

A havi előfizetés nem köt le. A kredit sosem jár le, így szüneteltetheted a használatot alapok nélkül.

Teljesítmény: Docker, CUDA és helyi korlátok

A helyi teljesítmény nagyban függ a CUDA verziótól és a hardver generációtól. Az Ollama támogatja a CUDA 5.0+ verziót, de a modern modellek az Ampere architektúrán vagy újabbakon teljesítenek a legjobban. A VLLM például Volta vagy újabb verziót igényel.

A Docker enyhe többletterhelést okoz, de megkönnyíti a függőségkezelést. A Coolify vagy hasonló eszközökkel minimális erőfeszítéssel beállíthatja az Ollama-t az Open Webgui-val. Azonban meg kell győződnie arról, hogy az OLLAMA_HOST változó helyesen van beállítva, gyakran 0.0.0.0-ra a külső hozzáférés érdekében.

A Hosted API-k konzisztens teljesítményt kínálnak függetlenül a helyi géptől. Ez kritikus fontosságú, amikor kiszámítható késleltetésre van szükség valós idejű alkalmazásokhoz.

Döntési táblázat: Helyi Ollama vs. Ez az API

Jellemző	Helyi Ollama	Hosted Szűrőmentes API
Beállítási komplexitás	Magas (CUDA, Docker, Konfiguráció)	Alacsony (API Kulcs + Base URL)
Költség modell	Hardver CAPEX	Előrefizetett token használat
Adatvédelem	Teljes kontroll	A promptok nem kerülnek betanításra
Kontextusablak	Függ a VRAM-tól	100 000 token
Frissítések	Manuális	Automatikus

Technikai korlátok: Kontextusablak és határok

A helyi modelleket a GPU VRAM korlátozza. Egy 7B modell elférhet, de a nagyobb modellek CPU-ra cserélődnek, ami jelentősen lelassítja az inferenciát. API-nk 100 000 tokenes kontextusablakot támogat, így nagy dokumentumokat feldolgozhat helyi hardverkorlátok nélkül.

Az API percenkénti 16 000 token maximális kimenetet ír elő kéréstenként. Ha nem állítja be a max_tokens paramétert, az alapértelmezett érték 2 048 token. Ez kiszámítható számlázást és erőforrás-allokációt biztosít.

A sebességkorlát kulcsonként percenként 300 kérésre van állítva. Ez elegendő a legtöbb fejlesztési és mérsékelt éles környezetű munkaterheléshez. Egy fiókra egy aktív kulcsot használhat, szükség esetén cserélheti.

Számlázási Átláthatóság: Előre fizetett vs. Előfizetés

Az előfizetési modellek gyakran fizettetnek üzemidőt. Az előre fizetett token számlázás csak a felhasznált mennyiség után számít fel díjat. A kredited sosem jár le, így egyszer tölthetsz fel és hónapokon vagy éveken át használhatod.

A fizetés kizárólag kriptovalutával történik: USDT (TRC20) vagy USDC (Base). Bármely egész összeget, $20 és $500 között, befizethetsz. A bónusz kredit automatikusan hozzáadásra kerül: +5% $50-tól, +10% $100-tól és +15% $200-tól.

Az új fiókok $0,50 próbaidőszakos kreditet kapnak, amely 7 napig érvényes. A hibák (pl. dupla számlázás) a Támogató oldalon javíthatók, de a kredit önmagában nem refundálható.

GYIK: Gyakori Ollama API kérdések

Hogyan használhatom az uncensored modellt? Küldjön kérelmeket az alap URL-re „uncensored” modell azonosítóval. Elfogadja a szabványos OpenAI SDK paramétereket, mint például a temperature, top_p és stop. A modell nem utasít el jogszerű felnőtt vagy vitatott témákat.

Ez a hivatalos Ollama API? Nem. Független szolgáltatás. Az Ollama egy helyi modellfuttatási eszköz. Mi egy másik open-weight modellt hosztolunk OpenAI-kompatibilis endpointon keresztül.

Mi történik, ha elfogy a hitelkeretem? A kérések addig sikertelenek, amíg nem tölti fel a hitelt. Bármikor hozzáadhat hitelt kriptovalutával. A meglévő hitel nem jár le.

Használom a promptjait a képzéshez? Nem. Nem használjuk a promptjait tanításhoz. Az adatai magántitkok maradnak.