中文 ▾

Ollama API 文档:无审查 API 比较

本指南将本地 Ollama 部署与托管的、uncensored 的 OpenAI 兼容 API 进行比较,以帮助您选择合适的基础设施。我们考察了 CUDA 驱动程序、Docker 开销和 token 计费的权衡,以便您决定是管理自己的 GPU 还是使用预付费 API 密钥。

最后更新时间

为什么选择无审查 API?

无审查 API 提供对模型的直接访问,这些模型不会拒绝合法的成人、虚构或争议性主题。这种方法消除了自行管理模型特定依赖项或微调对齐层的需求。

我们的托管服务交付一个针对最小拒绝率进行优化的开放权重模型。你输入标准文本,获取文本输出,无需担心内容过滤器阻塞你的工作流程。API 支持通过 SSE 进行流式传输、函数调用和 JSON 模式,确保与现代开发者技术栈兼容。

与本地部署不同,您无需监控 GPU 温度或处理驱动程序更新。基础设施会自动扩展,使您能够专注于构建应用程序,而不是维护服务器。

本地 Ollama 与托管 API:权衡

本地部署提供完全的数据隐私和零 WAN 延迟,但需要大量的硬件管理。你必须配置 CUDA 驱动、Docker 容器以及 OLLAMA_HOST 等环境变量。

托管 API 抽象了硬件层。您只需使用基础 URL 和 API 密钥进行连接,就像使用主要云提供商一样。这消除了对 NVIDIA Container Toolkit 的需求,也无需管理本地模型文件。

权衡是成本与便利性。本地运行在购买硬件后是免费的,而托管 API 按 token 收费。对于偶尔使用或快速原型开发,托管路线通常部署更快。

成本对比:GPU 硬件与 Token 计费

本地推理成本是固定的:你一次性购买 GPU。托管计费随使用情况扩展。我们的模型收费为每 1M 输入 token $0.15,每 1M 输出 token $0.50。这种预付费模式意味着错误和拒绝是免费的,所以你只为实际结果付费。

对于高容量生产环境,本地硬件通常在价格上占优。对于间歇性开发或小团队,预付费令牌计费避免了空闲 GPU 资源的开销。你可以从 20 美元起使用加密货币充值,大额存款可获得额外积分。

无月度订阅锁定。余额永不过期,允许您暂停使用而不会损失资金。

性能:Docker、CUDA 和本地限制

本地性能高度依赖您的 CUDA 版本和硬件代际。Ollama 支持 CUDA 5.0+,但现代模型在 Ampere 架构或更新架构上表现最佳。例如,VLLM 需要 Volta 或更新架构。

Docker 会引入少量开销,但能简化依赖管理。你可以使用 Coolify 等工具,以最小化工作量部署 Ollama 和 Open Webgui。不过,你必须确保正确设置 OLLAMA_HOST 变量,通常需设为 0.0.0.0 以支持外部访问。

托管 API 提供一致的性能,不受您本地机器的影响。当您需要在实时应用中获得可预测的延迟时,这一点至关重要。

决策表:本地 Ollama 与本文 API

功能本地 Ollama托管无审查 API
设置复杂度高 (CUDA, Docker, 配置)低(API 密钥 + 基础 URL)
成本模型硬件资本支出预付费 Token 使用
隐私完全控制提示词不用于训练
上下文窗口取决于 VRAM100,000 个 Token
更新手动自动

技术限制:上下文窗口和限制

本地模型受限于您的 GPU 显存。7B 模型可能可以运行,但更大的模型会交换到 CPU,显著减慢推理速度。我们的 API 支持 100,000 个 token 的上下文窗口,允许您处理大型文档而无需本地硬件限制。

API 限制每次请求的最大输出为 16,000 个 token。如果你未设置 max_tokens,默认值为 2,048 个 token。这确保了可预测的计费和资源分配。

速率限制设置为每个密钥每分钟 300 次请求。这足以满足大多数开发和中等规模的生产工作负载。每个账户可以使用一个活跃密钥,如果需要可以替换。

账单透明度:预付费与订阅

订阅模式通常会为空闲时间付费。预付费令牌计费仅按实际使用量收费。我们的积分永不过期,因此你可以充值一次并在数月或数年内使用。

支付仅支持加密货币:USDT (TRC20) 或 USDC (Base)。您可以存入 $20 至 $500 之间的任意整数金额。系统自动添加额外积分:$50 起赠 +5%,$100 起赠 +10%,$200 起赠 +15%。

新账户可获得 $0.50 试用额度,有效期为 7 天。重复扣款等错误通过支持页面修复,但额度本身不可退款。

常见问题解答:常见的 Ollama API 问题

如何使用 uncensored 模型? 向我们的基础 URL 发送请求,模型 ID 为“uncensored”。它接受标准的 OpenAI SDK 参数,如 temperature、top_p 和 stop。该模型不会拒绝合法的成人或争议性话题。

这是官方的 Ollama API 吗? 否。我们是一项独立服务。Ollama 是在本地运行模型的工具。我们通过 OpenAI 兼容的端点托管不同的开源模型。

如果信用额度耗尽怎么办? 请求将失败,直到您充值。您可以随时通过加密货币添加积分。您现有的积分不会过期。

你会将我的提示词用于训练吗? 否。我们不使用您的提示词进行训练。您的数据保持私密。

常见问题

无审查 API 的上下文窗口是多少?

API 支持提示词和补全合计 100,000 个令文的上下文窗口。这允许您在没有本地 VRAM 限制的情况下处理大型文档。最大输出为每次请求 16,000 个令牌。

我如何为 API 付费?

仅接受加密货币支付,使用 USDT (TRC20) 或 USDC (Base)。您可以存入 $20 至 $500 之间的任意整数金额。根据存款金额添加赠金,$200 及以上存款最高可获得 15% 的赠金。

我可以使用现有的 OpenAI SDK 代码吗?

是的。API 与 OpenAI 兼容。您只需将 base_url 更改为 HTTPS://api.ollamaapidocs.com/v1 并更新 API 密钥。支持所有标准参数,如 temperature 和 top_p。

速率限制是什么?

每个密钥每分钟限制 300 次请求,最多支持 8 个并发请求。请求体大小上限为 8 MB。这些限制足以满足大多数开发和中等规模的生成环境工作负载。

生成您的 API 密钥

注册,复制你的密钥,并更新基础 URL。这就是你开始所需的全部。

创建键