Dokumen API Ollama: Perbandingan API Tanpa Sensor

Mengapa Memilih API Tanpa Sensor?

API tanpa sensor memberikan akses langsung kepada model yang tidak menolak topik dewasa, fiksyen, atau kontroversi yang sah. Pendekatan ini menghapuskan keperluan untuk mengurus kebergantungan khusus model atau melaraskan lapisan penjajaran sendiri.

Perkhidmatan terhos kami menyampaikan model berat terbuka yang dioptimumkan untuk penolakan minimum. Anda menghantar input teks standard dan menerima output teks tanpa perlu risau tentang penapis kandungan yang menyekat aliran kerja anda. API menyokong penstriman melalui SSE, pemanggilan fungsi, dan mod JSON, memastikan serasi dengan susun atur pembangun moden.

Berbeza dengan pelaksanaan tempatan, anda tidak perlu memantau suhu GPU atau mengendalikan kemas kini pemacu. Infrastruktur berskala secara automatik, membolehkan anda memberi tumpuan kepada membina aplikasi anda daripada mengekalkan pelayan anda.

Ollama Tempatan vs API Dihoskan: Pertukaran

Penempatan tempatan menawarkan privasi data penuh dan latensi sifar melalui WAN, tetapi memerlukan pengurusan perkakasan yang ketara. Anda mesti mengkonfigurasi pemacu CUDA, kontena Docker, dan pembolehubah persekitaran seperti OLLAMA_HOST.

API dihoskan menyembunyikan perkakasan. Anda menyambung menggunakan URL asas dan kunci API, sama seperti anda akan lakukan dengan penyedia awan utama. Ini menghapuskan keperluan untuk NVIDIA Container Toolkit atau mengurus fail model tempatan.

Pertukaran ialah kos berbanding kemudahan. Jalanan tempatan percuma selepas pembelian perkakasan, manakala API yang dihoskan mengenakan caj per token. Untuk penggunaan sesekali atau prototaip pantas, laluan yang dihoskan sering kali lebih cepat untuk disebar.

Perbandingan Kos: Perkakasan GPU vs. Penafian Token

Kos inferens tempatan adalah tetap: anda membeli GPU sekali. Pengebilan yang dihoskan berskala dengan penggunaan. Model kami mengenakan caj $0.15 bagi setiap 1M token input dan $0.50 bagi setiap 1M token output. Model pra-bayar ini bermaksud ralat dan penolakan adalah percuma, jadi anda hanya membayar untuk hasil sebenar.

Untuk pengeluaran bervolume tinggi, perkakasan tempatan biasanya menang dari segi harga. Untuk pembangunan sporadik atau pasukan kecil, pengebilan token pra-bayar mengelakkan overhead sumber GPU yang tidak digunakan. Anda boleh menambah baki dengan kriptomula bermula pada $20, dengan kredit bonus tersedia untuk deposit yang lebih besar.

Tiada langganan bulanan mengunci anda. Kredit tidak luput, membolehkan anda menghentikan penggunaan tanpa kehilangan dana.

Prestasi: Docker, CUDA, dan Kekangan Tempatan

Prestasi tempatan bergantung dengan kuat pada versi CUDA dan generasi perkakasan anda. Ollama menyokong CUDA 5.0+, tetapi model moden berfungsi dengan terbaik pada seni bina Ampere atau lebih baru. VLLM, contohnya, memerlukan Volta atau lebih baru.

Docker menambah sedikit beban tetapi memudahkan pengurusan kebergantungan. Anda boleh menggunakan alat seperti Coolify untuk menyiapkan Ollama dengan Open Webgui dengan usaha minimum. Walau bagaimanapun, anda mesti memastikan pembolehubah OLLAMA_HOST ditetapkan dengan betul, selalunya kepada 0.0.0.0 untuk akses luaran.

API dihoskan menawarkan prestasi konsisten tidak kira mesin tempatan anda. Ini penting apabila anda memerlukan latensi yang boleh diramal untuk aplikasi masa nyata.

Jadual Keputusan: Ollama Tempatan vs. API Ini

Ciri	Ollama Tempatan	API Uncensored Dihos
Kesukaran Penetapan	Tinggi (CUDA, Docker, Konfigurasi)	Rendah (Kunci API + URL Asas)
Model Kos	Perkakasan CapEx	Penggunaan Token Prabayar
Privasi	Kawalan Penuh	Prompt Tidak Digunakan untuk Latihan
Tetingkap Konteks	Bergantung pada VRAM	100,000 Token
Kemas kini	Manual	Automatik

Kekangan Teknikal: Tetingkap Konteks dan Had

Model tempatan terhad oleh VRAM GPU anda. Model 7B mungkin muat, tetapi model yang lebih besar akan bertukar ke CPU, melambatkan penyimpulan dengan ketara. API kami menyokong tetingkap konteks 100,000 token, membolehkan anda memproses dokumen besar tanpa had perkakasan tempatan.

API mengenakan had output maksimum 16,000 token setiap permintaan. Jika anda tidak menetapkan max_tokens, lalai ialah 2,048 token. Ini memastikan pengebilan dan pengagihan sumber yang boleh diramal.

Rate limits are set to 300 requests per minute per key. This is sufficient for most development and moderate production workloads. You can use one active key per account, replacing it if needed.

Ketelusan Pengebilan: Prabayar vs. Langganan

Model langganan sering mengenakan bayaran untuk masa lengang. Pengebilan token pra-bayar mengebil hanya untuk apa yang anda gunakan. Kredit kami tidak luput, jadi anda boleh mengisi semula sekali dan menggunakannya selama berbulan-bulan atau bertahun-tahun.

Pembayaran hanya menggunakan kripto: USDT (TRC20) atau USDC (Base). Anda boleh mendepositkan sebarang jumlah bulat dari $20 hingga $500. Kredit bonus ditambah secara automatik: +5% bermula dari $50, +10% dari $100, dan +15% dari $200.

Akaun baharu menerima $0.50 kredit percubaan yang sah selama 7 hari. Kesilapan seperti caj berganda dibetulkan melalui halaman Sokongan, tetapi kredit itu sendiri tidak boleh dipulangkan.

FAQ: Soalan API Ollama Lazim

Bagaimana cara menggunakan model uncensored? Hantar permintaan ke URL asas kami dengan ID model "tanpa penapisan". Ia menerima parameter SDK OpenAI piawai seperti suhu, top_p, dan stop. Model tidak menolak topik dewasa atau kontroversi yang sah.

Adakah ini API Ollama rasmi? Tidak. Kami ialah perkhidmatan bebas. Ollama ialah alat untuk menjalankan model secara tempatan. Kami menempatkan model berat terbuka yang berbeza melalui titik akhir serasi OpenAI.

Apa yang berlaku jika saya kehabisan kredit? Permintaan akan gagal sehingga anda menambah nilai. Anda boleh menambah kredit melalui kripto pada bila-bila masa. Kredit sedia ada anda tidak luput.

Adakah anda menggunakan prompt saya untuk latihan? Tidak. Kami tidak menggunakan prompt anda untuk latihan. Data anda kekal peribadi.