Documentation API Ollama : Comparaison des API sans censure

Pourquoi choisir une API sans filtre ?

Les API sans censure fournissent un accès direct à des modèles qui ne refusent pas les sujets adultes légaux, fictifs ou controversés. Cette approche élimine la nécessité de gérer les dépendances spécifiques au modèle ou d'ajuster vous-même les couches d'alignement.

Notre service hébergé délivre un modèle à poids ouverts optimisé pour un refus minimal. Vous envoyez une entrée textuelle standard et recevez une sortie textuelle sans vous soucier des filtres de contenu bloquant votre flux de travail. L'API prend en charge le streaming via SSE, l'appel de fonctions et le mode JSON, garantissant la compatibilité avec les piles de développement modernes.

Contrairement aux déploiements locaux, vous n'avez pas besoin de surveiller la température du GPU ou de gérer les mises à jour des pilotes. L'infrastructure s'adapte automatiquement, vous permettant de vous concentrer sur la construction de votre application plutôt que sur la maintenance de votre serveur.

Ollama local vs API hébergée : le compromis

Le déploiement local offre une confidentialité totale des données et une latence nulle sur le WAN, mais nécessite une gestion matérière importante. Vous devez configurer les pilotes CUDA, les conteneurs Docker et les variables d’environnement comme OLLAMA_HOST.

Les API hébergées abstraient le matériel. Vous vous connectez à l’aide d’une URL de base et d’une clé API, comme vous le feriez avec les principaux fournisseurs de cloud. Cela élimine le besoin du NVIDIA Container Toolkit ou de la gestion des fichiers de modèles locaux.

Le compromis est le coût par rapport à la commodité. Les exécutions locales sont gratuites après l'achat du matériel, tandis que les APIs hébergées facturent par token. Pour une utilisation occasionnelle ou un prototypage rapide, la voie hébergée est souvent plus rapide à déployer.

Comparaison des coûts : matériel GPU vs. facturation au token

Les coûts d’inférence locale sont fixes : vous achetez le GPU une fois. La facturation hébergée évolue avec l’utilisation. Notre modèle facture 0,15 $ par 1M de jetons d’entrée et 0,50 $ par 1M de jetons de sortie. Ce modèle prépayé signifie que les erreurs et les refus sont gratuits, vous ne payez que pour les résultats réels.

Pour la production à haut volume, le matériel local gagne généralement en prix. Pour le développement ponctuel ou les petites équipes, la facturation des tokens prépayés évite la surcharge des ressources GPU inactives. Vous pouvez recharger avec des cryptomonnaies à partir de 20 $, avec un crédit bonus disponible pour les dépôts plus importants.

Aucun abonnement mensuel ne vous lie. Le crédit n'expire jamais, vous permettant de suspendre l'utilisation sans perdre vos fonds.

Performances : Docker, CUDA et contraintes locales

Les performances locales dépendent fortement de votre version CUDA et de la génération de matériel. Ollama prend en charge CUDA 5.0+, mais les modèles modernes fonctionnent mieux sur l'architecture Ampere ou plus récente. VLLM, par exemple, nécessite Volta ou plus récent.

Docker ajoute une légère surcharge mais simplifie la gestion des dépendances. Vous pouvez utiliser des outils comme Coolify pour configurer Ollama avec Open Webgui avec un effort minimal. Cependant, vous devez vous assurer que la variable OLLAMA_HOST est définie correctement, souvent à 0.0.0.0 pour l'accès externe.

Les API hébergées offrent des performances cohérentes indépendamment de votre machine locale. C’est crucial lorsque vous avez besoin d’une latence prévisible pour les applications en temps réel.

Tableau de décision : Ollama local vs. Cette API

Fonctionnalité	Ollama local	API hébergée non censurée
Complexité de la configuration	Élevé (CUDA, Docker, Config)	Faible (Clé API + URL de base)
Modèle de coût	Capex Matériel	Utilisation des Tokens Prépayés
Confidentialité	Contrôle total	Prompts non utilisés pour l'entraînement
Fenêtre de Contexte	Dépend de la VRAM	100 000 tokens
Mises à jour	Manuel	Automatique

Contraintes techniques : Fenêtre de contexte et limites

Les modèles locaux sont limités par la VRAM de votre GPU. Un modèle de 7 milliards de paramètres peut tenir, mais les modèles plus gros seront échangés vers le CPU, ralentissant considérablement l'inférence. Notre API prend en charge une fenêtre de contexte de 100 000 jetons, vous permettant de traiter de grands documents sans les limites matérielles locales.

L'API impose une sortie maximale de 16 000 tokens par requête. Si vous ne définissez pas max_tokens, la valeur par défaut est de 2 048 tokens. Cela garantit une facturation prévisible et une allocation des ressources.

Les limites de débit sont fixées à 300 requêtes par minute par clé. Cela suffit pour la plupart des charges de développement et de production modérées. Vous pouvez utiliser une clé active par compte, en la remplaçant si nécessaire.

Transparence de facturation : prépayé vs abonnement

Les modèles d'abonnement facturent souvent le temps d'inactivité. La facturation en tokens prépayés ne facture que ce que vous utilisez. Votre crédit n'expire jamais, vous pouvez donc recharger une fois et l'utiliser sur plusieurs mois ou années.

Les paiements sont exclusivement en crypto : USDT (TRC20) ou USDC (Base). Vous pouvez déposer n'importe quel montant entier de 20 $ à 500 $. Un crédit bonus est ajouté automatiquement : +5 % à partir de 50 $, +10 % à partir de 100 $, et +15 % à partir de 200 $.

Les nouveaux comptes reçoivent 0,50 $ de crédit d'essai valable 7 jours. Les erreurs comme les doubles débits sont corrigées via la page Support, mais le crédit lui-même n'est pas remboursable.

FAQ : Questions courantes sur l'API Ollama

Comment utiliser le modèle uncensored ? Envoyez des demandes à notre URL de base avec l'identifiant du modèle « uncensored ». Il accepte les paramètres standards du SDK OpenAI comme temperature, top_p et stop. Le modèle ne refuse pas les sujets adultes ou controversés dans le cadre de la loi.

S'agit-il de l'API officielle Ollama ? Non. Nous sommes un service indépendant. Ollama est un outil pour exécuter des modèles localement. Nous hébergeons un modèle à poids ouverts différent via un point de terminaison compatible OpenAI.

Que se passe-t-il si je manque de crédit ? Les requêtes échoueront jusqu'à ce que vous rechargiez. Vous pouvez ajouter du crédit via crypto à tout moment. Votre crédit existant n'expire pas.

Utilisez-vous mes prompts pour l'entraînement ? Non. Nous n'utilisons pas vos invites pour l'entraînement. Vos données restent privées.