Ollama API 文档:无审查 API 比较
本指南将本地 Ollama 部署与托管的、uncensored 的 OpenAI 兼容 API 进行比较,以帮助您选择合适的基础设施。我们考察了 CUDA 驱动程序、Docker 开销和 token 计费的权衡,以便您决定是管理自己的 GPU 还是使用预付费 API 密钥。
最后更新时间
为什么选择无审查 API?
无审查 API 提供对模型的直接访问,这些模型不会拒绝合法的成人、虚构或争议性主题。这种方法消除了自行管理模型特定依赖项或微调对齐层的需求。
我们的托管服务交付一个针对最小拒绝率进行优化的开放权重模型。你输入标准文本,获取文本输出,无需担心内容过滤器阻塞你的工作流程。API 支持通过 SSE 进行流式传输、函数调用和 JSON 模式,确保与现代开发者技术栈兼容。
与本地部署不同,您无需监控 GPU 温度或处理驱动程序更新。基础设施会自动扩展,使您能够专注于构建应用程序,而不是维护服务器。
本地 Ollama 与托管 API:权衡
本地部署提供完全的数据隐私和零 WAN 延迟,但需要大量的硬件管理。你必须配置 CUDA 驱动、Docker 容器以及 OLLAMA_HOST 等环境变量。
托管 API 抽象了硬件层。您只需使用基础 URL 和 API 密钥进行连接,就像使用主要云提供商一样。这消除了对 NVIDIA Container Toolkit 的需求,也无需管理本地模型文件。
权衡是成本与便利性。本地运行在购买硬件后是免费的,而托管 API 按 token 收费。对于偶尔使用或快速原型开发,托管路线通常部署更快。
成本对比:GPU 硬件与 Token 计费
本地推理成本是固定的:你一次性购买 GPU。托管计费随使用情况扩展。我们的模型收费为每 1M 输入 token $0.15,每 1M 输出 token $0.50。这种预付费模式意味着错误和拒绝是免费的,所以你只为实际结果付费。
对于高容量生产环境,本地硬件通常在价格上占优。对于间歇性开发或小团队,预付费令牌计费避免了空闲 GPU 资源的开销。你可以从 20 美元起使用加密货币充值,大额存款可获得额外积分。
无月度订阅锁定。余额永不过期,允许您暂停使用而不会损失资金。
性能:Docker、CUDA 和本地限制
本地性能高度依赖您的 CUDA 版本和硬件代际。Ollama 支持 CUDA 5.0+,但现代模型在 Ampere 架构或更新架构上表现最佳。例如,VLLM 需要 Volta 或更新架构。
Docker 会引入少量开销,但能简化依赖管理。你可以使用 Coolify 等工具,以最小化工作量部署 Ollama 和 Open Webgui。不过,你必须确保正确设置 OLLAMA_HOST 变量,通常需设为 0.0.0.0 以支持外部访问。
托管 API 提供一致的性能,不受您本地机器的影响。当您需要在实时应用中获得可预测的延迟时,这一点至关重要。
决策表:本地 Ollama 与本文 API
| 功能 | 本地 Ollama | 托管无审查 API |
|---|---|---|
| 设置复杂度 | 高 (CUDA, Docker, 配置) | 低(API 密钥 + 基础 URL) |
| 成本模型 | 硬件资本支出 | 预付费 Token 使用 |
| 隐私 | 完全控制 | 提示词不用于训练 |
| 上下文窗口 | 取决于 VRAM | 100,000 个 Token |
| 更新 | 手动 | 自动 |
技术限制:上下文窗口和限制
本地模型受限于您的 GPU 显存。7B 模型可能可以运行,但更大的模型会交换到 CPU,显著减慢推理速度。我们的 API 支持 100,000 个 token 的上下文窗口,允许您处理大型文档而无需本地硬件限制。
API 限制每次请求的最大输出为 16,000 个 token。如果你未设置 max_tokens,默认值为 2,048 个 token。这确保了可预测的计费和资源分配。
速率限制设置为每个密钥每分钟 300 次请求。这足以满足大多数开发和中等规模的生产工作负载。每个账户可以使用一个活跃密钥,如果需要可以替换。
账单透明度:预付费与订阅
订阅模式通常会为空闲时间付费。预付费令牌计费仅按实际使用量收费。我们的积分永不过期,因此你可以充值一次并在数月或数年内使用。
支付仅支持加密货币:USDT (TRC20) 或 USDC (Base)。您可以存入 $20 至 $500 之间的任意整数金额。系统自动添加额外积分:$50 起赠 +5%,$100 起赠 +10%,$200 起赠 +15%。
新账户可获得 $0.50 试用额度,有效期为 7 天。重复扣款等错误通过支持页面修复,但额度本身不可退款。
常见问题解答:常见的 Ollama API 问题
如何使用 uncensored 模型? 向我们的基础 URL 发送请求,模型 ID 为“uncensored”。它接受标准的 OpenAI SDK 参数,如 temperature、top_p 和 stop。该模型不会拒绝合法的成人或争议性话题。
这是官方的 Ollama API 吗? 否。我们是一项独立服务。Ollama 是在本地运行模型的工具。我们通过 OpenAI 兼容的端点托管不同的开源模型。
如果信用额度耗尽怎么办? 请求将失败,直到您充值。您可以随时通过加密货币添加积分。您现有的积分不会过期。
你会将我的提示词用于训练吗? 否。我们不使用您的提示词进行训练。您的数据保持私密。
常见问题
无审查 API 的上下文窗口是多少?
API 支持提示词和补全合计 100,000 个令文的上下文窗口。这允许您在没有本地 VRAM 限制的情况下处理大型文档。最大输出为每次请求 16,000 个令牌。
我如何为 API 付费?
仅接受加密货币支付,使用 USDT (TRC20) 或 USDC (Base)。您可以存入 $20 至 $500 之间的任意整数金额。根据存款金额添加赠金,$200 及以上存款最高可获得 15% 的赠金。
我可以使用现有的 OpenAI SDK 代码吗?
是的。API 与 OpenAI 兼容。您只需将 base_url 更改为 HTTPS://api.ollamaapidocs.com/v1 并更新 API 密钥。支持所有标准参数,如 temperature 和 top_p。
速率限制是什么?
每个密钥每分钟限制 300 次请求,最多支持 8 个并发请求。请求体大小上限为 8 MB。这些限制足以满足大多数开发和中等规模的生成环境工作负载。
生成您的 API 密钥
注册,复制你的密钥,并更新基础 URL。这就是你开始所需的全部。