繁中 ▾

Ollama API 文件:無審查 API 比較

本指南比較了本地 Ollama 部署與託管的、uncensored 的 OpenAI 相容 API,以協助您選擇合適的基礎設施。我們檢視了 CUDA 驅動程式、Docker 冗餘和 token 計費的技術權衡,以便您決定是自行管理 GPU 還是使用預付 API 金鑰。

最後更新

為什麼選擇無審查 API?

無審查 API 提供直接存取不對合法成人、虛構或爭議性主題拒絕的模型。這種方法消除了自行管理模型特定依賴性或微調對齊層的需求。

我們的託管服務提供針對最小拒絕率進行最佳化的開源權重模型。你輸入標準文字,輸出文字,無需擔心內容過濾器阻斷你的工作流程。API 支援透過 SSE 進行串流傳輸、函式呼叫和 JSON 模式,確保與現代開發者技術堆疊的相容性。

與本地部署不同,您無需監控 GPU 溫度或處理驅動程式更新。基礎設施會自動擴展,讓您可以專注於建構應用程式,而非維護伺服器。

本地 Ollama 與託管 API:權衡取捨

本地部署提供完全的資料隱私和零廣域網延遲,但需要顯著的硬體管理。你必須配置 CUDA 驅動程式、Docker 容器以及 OLLAMA_HOST 等環境變數。

託管式 API 抽象化了硬體層面。您只需使用基礎 URL 和 API 金鑰進行連接,就像使用主要雲端供應商一樣。這消除了對 NVIDIA Container Toolkit 的需求,也無需管理本地模型檔案。

取捨在於成本與便利性。購買硬體後,本地運行免費,而託管 API 則按 token 收費。對於偶爾使用或快速原型開發,託管方案通常部署更快。

成本比較:GPU 硬體與 Token 計費

本地推理成本是固定的:你一次性購買 GPU。託管計費則隨使用量擴展。我們的模型收費為每 1M 輸入 token $0.15,每 1M 輸出 token $0.50。這種預付模式意味著錯誤和拒絕回應是免費的,所以你只需為實際結果付費。

對於高產量的生產環境,本地硬體通常在價格上佔優。對於間歇性開發或小團隊,預付 token 計費避免了閒置 GPU 資源的額外開銷。您可以從 $20 起使用加密貨幣充值,較大存款可獲得額外信用額度。

無月費將您綁定。餘額永不過期,允許您暫停使用而不損失資金。

效能:Docker、CUDA 與本地限制

本地性能高度取決於您的 CUDA 版本和硬體代際。Ollama 支援 CUDA 5.0+,但現代模型在 Ampere 架構或更新版本上表現最佳。例如,VLLM 需要 Volta 或更新版本。

Docker 會帶來輕微的效能開銷,但能簡化依賴項管理。您可以使用 Coolify 等工具,以極少的設定成本部署 Ollama 與 Open Webgui。不過,您必須確保正確設定 OLLAMA_HOST 變數,通常需設為 0.0.0.0 以允許外部存取。

託管式 API 提供一致的效能,不受您本地機器的影響。當您需要可預測的延遲以用於即時應用程式時,這一點至關重要。

決策表:本地 Ollama 與此 API

功能本地 Ollama託管式無審查 API
設定複雜度高 (CUDA, Docker, Config)低 (API 金鑰 + 基礎 URL)
成本模型硬體資本支出預付 Token 使用情況
隱私Full Control提示未用於訓練
上下文視窗取決於 VRAM100,000 Token
更新手動自動

技術限制:上下文窗口和限制

本機模型受您的 GPU VRAM 限制。7B 模型可能可以運行,但較大的模型會交換到 CPU,顯著降低推理速度。我們的 API 支援 100,000 token 的上下文視窗,允許您在沒有本地硬體限制的情況下處理大型文件。

API 每筆請求最多允許 16,000 個 token 的輸出。若未設定 max_tokens,預設值為 2,048 個 token。這可確保計費可預測且資源分配合理。

速率限制設為每個金鑰每分鐘 300 次請求。這足以滿足大多數開發和適度的生產工作負載。每個帳戶可以使用一個有效金鑰,如有需要可進行替換。

帳單透明度:預付 vs. 訂閱

訂閱制通常會為閒置時間收費。預付 Token 計費僅按實際使用量收費。我們的信用額度永不過期,所以你可以充值一次,並在數月或數年內使用。

付款僅限加密貨幣:USDT (TRC20) 或 USDC (Base)。您可以存入 $20 至 $500 之間的任意整數金額。額外信用額度自動發放:$50 起贈送 +5%,$100 起贈送 +10%,$200 起贈送 +15%。

新帳戶可獲得 $0.50 試用額度,有效期為 7 天。錯誤如重複扣款可透過支援頁面修復,但額度本身不可退還。

常見問題:Ollama API 常見問題

我如何使用無審查模型? 向我們的基礎網址傳送請求,模型 ID 為「uncensored」。它接受標準的 OpenAI SDK 參數,如 temperature、top_p 和 stop。該模型不會拒絕合法成人或爭議性主題。

這是官方的 Ollama API 嗎? 否。我們是獨立服務。Ollama 是用於在本地運行模型的工具。我們透過 OpenAI 相容端點託管不同的開放權重模型。

如果我的信用額度耗盡會怎樣? 請求將失敗直到您充值。您可以隨時透過加密貨幣加入信用額度。您現有的信用額度不會過期。

您會將我的提示詞用於訓練嗎? 否。我們不使用您的提示詞進行訓練。您的數據保持私密。

常見問題

無審查 API 的上下文視窗為何?

API 支援 100,000 token 的上下文視窗,提示和完成內容合計。這允許您在沒有本地 VRAM 限制的情況下處理大型文件。最大輸出為每次請求 16,000 token。

我如何為 API 付費?

僅接受加密貨幣付款,使用 TRC20 上的 USDT 或 Base 上的 USDC。您可以存入 $20 至 $500 之間的任意整數金額。根據存款金額添加額外贈金,$200 以上存款最高可獲得 15% 贈金。

我可以使用現有的 OpenAI SDK 程式碼嗎?

是的。API 與 OpenAI 相容。您只需將 base_url 更改為 HTTPS://api.ollamaapidocs.com/v1 並更新 API 金鑰即可。支援所有標準參數,如 temperature 和 top_p。

速率限制為何?

每個金鑰每分鐘限 300 次請求,8 個並行請求。請求主體大小上限為 8 MB。這些限制已足以滿足大多數開發與中度生產環境的需求。

產生您的 API 金鑰

註冊,複製你的金鑰,並更新基礎 URL。這就是開始所需的一切。

建立金鑰