Dokumentacja API Ollama: Porównanie API bez cenzury

Dlaczego wybrać API bez cenzury?

Niezablokowane API zapewniają bezpośredni dostęp do modeli, które nie odrzucają legalnych tematów dla dorosłych, fikcyjnych lub kontrowersyjnych. To podejście eliminuje potrzebę zarządzania zależnościami specyficznymi dla modelu lub dostosowywania warstw wyrównania samodzielnie.

Nasza hostowana usługa dostarcza model o otwartych wagach zoptymalizowany pod kątem minimalnych odrzuceń. Wysyłasz standardowe dane wejściowe tekstowe, a otrzymujesz wyjście tekstowe bez obaw o filtry treści blokujące Twój przepływ pracy. API obsługuje strumieniowanie przez SSE, wywoływanie funkcji i tryb JSON, zapewniając kompatybilność z nowoczesnymi stosami deweloperskimi.

W przeciwieństwie do wdrożeń lokalnych, nie musisz monitorować temperatury GPU ani zajmować się aktualizacjami sterowników. Infrastruktura skaluje się automatycznie, pozwalając Ci skupić się na budowaniu aplikacji, a nie na utrzymaniu serwera.

Lokalny Ollama vs Hostowane API: Kompromis

Wdrożenie lokalne zapewnia pełną prywatność danych i zerowe opóźnienia w sieci WAN, ale wymaga znaczącego zarządzania sprzętem. Musisz skonfigurować sterowniki CUDA, kontenery Docker i zmienne środowiskowe takie jak OLLAMA_HOST.

API Hostowane abstrahują sprzęt. Łączysz się za pomocą bazowego URL i klucza API, tak jak w przypadku dużych dostawców chmurowych. Eliminuje to potrzebę użycia NVIDIA Container Toolkit lub zarządzania lokalnymi plikami modeli.

Kompromisem jest koszt w stosunku do wygody. Uruchomienia lokalne są darmowe po zakupie sprzętu, podczas gdy API hostowane rozliczają za każdy token. Dla okazjonalnego użytku lub szybkiego prototypowania trasa hostowana jest często szybsza w wdrożeniu.

Porównanie kosztów: Sprzęt GPU vs. rozliczanie za tokeny

Koszty wnioskowania lokalnego są stałe: kupujesz GPU raz. Hostowane rozliczanie skaluje się zgodnie z użyciem. Nasz model pobiera $0.15 za 1M tokenów wejściowych i $0.50 za 1M tokenów wyjściowych. Ten model z góry opłacony oznacza, że błędy i odrzucenia są darmowe, więc płacisz tylko za rzeczywiste wyniki.

Dla produkcji o wysokiej objętości lokalny sprzęt zwykle wygrywa cenowo. Dla sporadycznej deweloperskiej pracy lub małych zespołów rozliczanie tokenów z góry unika nakładów związanych z zasobami GPU w stanie bezczynności. Możesz doładować kryptowalutą zaczynając od $20, z dostępnością bonusu kredytowego za większe depozyty.

Brak opłaty subskrypcyjnej miesięcznej, która Cię wiąże. Kredyt nie wygasa, pozwalając na wstrzymanie użytkowania bez utraty środków.

Wydajność: Docker, CUDA i ograniczenia lokalne

Wydajność lokalna zależy mocno od wersji CUDA i generacji sprzętu. Ollama obsługuje CUDA 5.0+, ale nowoczesne modele działają najlepiej na architekturze Ampere lub nowszej. VLLM wymaga np. Volty lub nowszej.

Docker dodaje nieznaczny narzut, ale upraszcza zarządzanie zależnościami. Możesz użyć narzędzi takich jak Coolify, aby skonfigurować Ollama z Open Webgui przy minimalnym wysiłku. Musisz jednak upewnić się, że zmienna OLLAMA_HOST jest ustawiona poprawnie, często na 0.0.0.0 dla dostępu z zewnątrz.

API Hostowane oferują spójną wydajność niezależnie od Twojego lokalnego komputera. Jest to kluczowe, gdy potrzebujesz przewidywalnego opóźnienia dla aplikacji w czasie rzeczywistym.

Tabela decyzyjna: Lokalne Ollama vs. To API

Funkcja	Lokalny Ollama	API Uncensored Hostowane
Złożoność konfiguracji	Wysoki (CUDA, Docker, Konfiguracja)	Niski (Klucz API + Base URL)
Model kosztów	Kapitałowe nakłady na sprzęt (Hardware CapEx)	Użycie tokenów z płatnością z góry
Prywatność	Pełna Kontrola	Prompty nie są używane do trenowania
Okno kontekstowe	Zależy od VRAM	100 000 tokenów
Aktualizacje	Ręczne	Automatyczne

Ograniczenia techniczne: Okno kontekstowe i limity

Lokalne modele są ograniczone pamięcią VRAM Twojej karty GPU. Model 7B może się zmieścić, ale większe modele będą przesyłane do pamięci CPU, co znacznie spowalnia inferencję. Nasze API obsługuje okno kontekstowe o rozmiarze 100 000 tokenów, pozwalając na przetwarzanie dużych dokumentów bez ograniczeń sprzętowych.

API narzuca maksymalnie 16 000 tokenów wyjściowych na żądanie. Jeśli nie ustawisz max_tokens, domyślna wartość to 2 048 tokenów. Zapewnia to przewidywalne rozliczanie i alokację zasobów.

Limity szybkości wynoszą 300 żądań na minutę na klucz. To wystarczy dla większości prac deweloperskich i umiarkowanych obciążeń produkcyjnych. Możesz używać jednego aktywnego klucza na konto, zastępując go w razie potrzeby.

Przejrzystość rozliczeń: Przedpłacone vs. Subskrypcja

Modele subskrypcyjne często pobierają opłaty za czas bezczynności. Prepaidowe rozliczenie za tokeny nalicza opłaty tylko za to, czego używasz. Twój kredyt nigdy nie wygasa, więc możesz go doładować raz i używać przez miesiące lub lata.

Płatności są wyłącznie kryptowalutowe: USDT (TRC20) lub USDC (Base). Możesz wpłacić dowolną kwotę całkowitą od $20 do $500. Bonusowy kredyt jest dodawany automatycznie: +5% od $50, +10% od $100 oraz +15% od $200.

Nowe konta otrzymują $0.50 kredytu próbnego ważnego przez 7 dni. Błędy, takie jak podwójne obciążenia, są naprawiane na stronie Wsparcia, ale samo saldo kredytu jest niewymagalne.

FAQ: Najczęstsze pytania dotyczące API Ollama

Jak używać modelu uncensored? Wysyłaj żądania do naszego bazowego URL z identyfikatorem modelu „uncensored”. Akceptuje standardowe parametry SDK OpenAI, takie jak temperatura, top_p i stop. Model nie odmawia na legalne tematy dla dorosłych lub kontrowersyjne.

Czy to oficjalne API Ollama? Nie. Jesteśmy niezależną usługą. Ollama to narzędzie do uruchamiania modeli lokalnie. My hostujemy inny model o otwartych wagach poprzez endpoint kompatybilny z OpenAI.

Co się stanie, jeśli zabraknie kredytu? Żądania nie powiedą się, dopóki nie doładujesz konta. Możesz dodać kredyt za pomocą kryptowalut w dowolnym momencie. Istniejący kredyt nie wygasa.

Czy używasz moich promptów do trenowania? Nie. Nie wykorzystujemy Twoich promptów do trenowania. Twoje dane pozostają prywatne.