Dokumentasi API Ollama: Perbandingan API Tanpa Sensor

Mengapa Memilih API Tanpa Sensor?

API tanpa sensor menyediakan akses langsung ke model yang tidak menolak topik dewasa, fiksi, atau kontroversial yang sah. Pendekatan ini menghilangkan kebutuhan untuk mengelola ketergantungan khusus model atau menyesuaikan lapisan penyesuaian sendiri.

Layanan terhost kami menghadirkan model open-weight yang dioptimalkan untuk penolakan minimal. Anda mengirim input teks standar dan menerima output teks tanpa khawatir filter konten menghalangi alur kerja Anda. API mendukung streaming melalui SSE, pemanggilan fungsi, dan mode JSON, memastikan kompatibilitas dengan tumpukan pengembang modern.

Berbeda dengan penyebaran lokal, Anda tidak perlu memantau suhu GPU atau menangani pembaruan driver. Infrastruktur ini diskalakan secara otomatis, memungkinkan Anda fokus membangun aplikasi Anda daripada memelihara server Anda.

Ollama Lokal vs API yang Dihosting: Pertukarannya

Deployment lokal menawarkan privasi data penuh dan latensi nol di WAN, tetapi memerlukan pengelolaan perangkat keras yang signifikan. Anda harus mengonfigurasi driver CUDA, kontainer Docker, dan variabel lingkungan seperti OLLAMA_HOST.

API terhosting mengabstraksi perangkat keras. Anda terhubung menggunakan URL dasar dan kunci API, sama seperti yang Anda lakukan dengan penyedia cloud utama. Ini menghilangkan kebutuhan akan NVIDIA Container Toolkit atau mengelola file model lokal.

Trade-off-nya adalah biaya versus kenyamanan. Jalanan lokal gratis setelah pembelian perangkat keras, sedangkan API yang di-hosting membebankan biaya per token. Untuk penggunaan sesekali atau prototipe cepat, jalur yang di-hosting sering kali lebih cepat untuk di-deploy.

Perbandingan Biaya: Hardware GPU vs. Penagihan Token

Biaya inferensi lokal tetap: Anda membeli GPU sekali. Penagihan yang dihosting diskalakan sesuai penggunaan. Model kami mengenakan biaya $0.15 per 1M token input dan $0.50 per 1M token output. Model prabayar ini berarti kesalahan dan penolakan gratis, jadi Anda hanya membayar untuk hasil aktual.

Untuk produksi volume tinggi, perangkat keras lokal biasanya menang dalam hal harga. Untuk pengembangan sporadis atau tim kecil, penagihan token prabayar menghindari overhead sumber daya GPU yang menganggur. Anda dapat mengisi ulang dengan kripto mulai dari $20, dengan kredit bonus tersedia untuk deposit yang lebih besar.

Tidak ada langganan bulanan yang mengikat Anda. Kredit tidak pernah kedaluwarsa, memungkinkan Anda menghentikan penggunaan tanpa kehilangan dana.

Performa: Docker, CUDA, dan Batasan Lokal

Kinerja lokal sangat bergantung pada versi CUDA dan generasi perangkat keras Anda. Ollama mendukung CUDA 5.0+, tetapi model modern bekerja paling baik pada arsitektur Ampere atau yang lebih baru. VLLM, misalnya, memerlukan Volta atau yang lebih baru.

Docker menambah sedikit overhead tetapi menyederhanakan manajemen dependensi. Anda dapat menggunakan alat seperti Coolify untuk menyiapkan Ollama dengan Open Webgui dengan usaha minimal. Namun, Anda harus memastikan variabel OLLAMA_HOST diatur dengan benar, biasanya ke 0.0.0.0 untuk akses eksternal.

API terhosting menawarkan kinerja konsisten terlepas dari mesin lokal Anda. Ini sangat penting ketika Anda membutuhkan latensi yang dapat diprediksi untuk aplikasi waktu nyata.

Tabel Keputusan: Ollama Lokal vs. API Ini

Fitur	Ollama Lokal	API Tanpa Sensor Terhosting
Kompleksitas Setup	Tinggi (CUDA, Docker, Konfigurasi)	Rendah (Kunci API + URL Dasar)
Model Biaya	Modal Tetap Perangkat Keras	Penggunaan Token Prabayar
Privasi	Kontrol Penuh	Prompt Tidak Digunakan untuk Pelatihan
Jendela Konteks	Tergantung pada VRAM	100.000 Token
Pembaruan	Manual	Otomatis

Batasan Teknis: Jendela Konteks dan Batas

Model lokal dibatasi oleh VRAM GPU Anda. Model 7B mungkin muat, tetapi model yang lebih besar akan swap ke CPU, yang secara signifikan memperlambat inferensi. API kami mendukung jendela konteks 100.000 token, memungkinkan Anda memproses dokumen besar tanpa batasan perangkat keras lokal.

API membatasi output maksimum 16.000 token per permintaan. Jika Anda tidak mengatur max_tokens, defaultnya adalah 2.048 token. Ini memastikan penagihan dan alokasi sumber daya yang dapat diprediksi.

Batas laju ditetapkan pada 300 permintaan per menit per kunci. Ini cukup untuk sebagian besar beban kerja pengembangan dan produksi moderat. Anda dapat menggunakan satu kunci aktif per akun, menggantinya jika diperlukan.

Transparansi Penagihan: Prabayar vs. Langganan

Model langganan sering kali membebankan biaya untuk waktu menganggur. Penagihan token prabayar hanya membebankan biaya untuk apa yang Anda gunakan. Kredit kami tidak pernah kedaluwarsa, jadi Anda dapat mengisi ulang sekali dan menggunakannya selama berbulan-bulan atau bertahun-tahun.

Pembayaran hanya menggunakan kripto: USDT (TRC20) atau USDC (Base). Anda dapat menyetor jumlah bulat apa pun dari $20 hingga $500. Kredit bonus ditambahkan secara otomatis: +5% dari $50, +10% dari $100, dan +15% dari $200.

Akun baru menerima kredit percobaan senilai $0.50 yang berlaku selama 7 hari. Kesalahan seperti pengisian ganda diperbaiki melalui halaman Dukungan, tetapi kredit itu sendiri tidak dapat dikembalikan.

FAQ: Pertanyaan Umum API Ollama

Bagaimana cara menggunakan model uncensored? Kirimkan permintaan ke URL dasar kami dengan id model "uncensored". Model ini menerima parameter SDK OpenAI standar seperti suhu, top_p, dan stop. Model tidak menolak topik dewasa atau kontroversial yang sah.

Apakah ini API Ollama resmi? Tidak. Kami adalah layanan independen. Ollama adalah alat untuk menjalankan model secara lokal. Kami meng-host model open-weight yang berbeda melalui endpoint kompatibel OpenAI.

Apa yang terjadi jika saldo kredit saya habis? Permintaan akan gagal hingga Anda top up. Anda dapat menambahkan kredit melalui crypto kapan saja. Kredit yang ada tidak kedaluwarsa.

Apakah Anda menggunakan prompt saya untuk pelatihan? Tidak. Kami tidak menggunakan prompt Anda untuk pelatihan. Data Anda tetap privat.