مستندات API Ollama: مقایسه API بدون سانسور
این راهنما استقرارهای محلی Ollama را با یک API میزبانی‌شده و بدون سانسور سازگار با OpenAI مقایسه می‌کند تا به شما در انتخاب زیرساخت مناسب کمک کند. ما مبادلات فنی مربوط به درایورهای CUDA، سربار Docker و صورتحساب توکن را بررسی می‌کنیم تا بتوانید تصمیم بگیرید که آیا مدیریت GPU خود را بر عهده بگیرید یا از کلید API پیش‌پرداخت استفاده کنید.
آخرین به‌روزرسانی
چرا یک API بدون سانسور انتخاب کنیم؟
APIهای بدون سانسور دسترسی مستقیم به مدل‌هایی را فراهم می‌کنند که موضوعات بزرگسالان، داستانی یا بحث‌برانگیز را رد نمی‌کنند. این رویکرد نیاز به مدیریت وابستگی‌های خاص مدل یا تنظیم لایه‌های همسوسازی را از بین می‌برد.
سرویس میزبانی‌شده ما یک مدل با وزن باز ارائه می‌دهد که برای حداقل رد محتوا بهینه‌سازی شده است. شما ورودی متن استاندارد ارسال می‌کنید و خروجی متن دریافت می‌کنید، بدون اینکه نگران فیلترهای محتوا باشید که جریان کار شما را مسدود می‌کنند. API از پخش زنده از طریق SSE، فراخوانی تابع و حالت JSON پشتیبانی می‌کند که سازگاری با استک‌های توسعه‌دهندگان مدرن را تضمین می‌کند.
برخلاف استقرارهای لوکال، شما نیازی به مانیتور کردن دمای GPU یا مدیریت به‌روزرسانی درایورها ندارید. زیرساخت به صورت خودکار مقیاس می‌یابد و به شما اجازه می‌دهد بر ساخت برنامه‌ی خود تمرکز کنید نه نگهداری سرور.
اولاما لوکال در برابر API میزبانی‌شده: ملاحظات
استقرار لوکال حریم خصوصی کامل داده‌ها و تأخیر صفر در WAN را ارائه می‌دهد، اما نیازمند مدیریت سخت‌افزار قابل توجهی است. شما باید درایورهای CUDA، کانتینرهای Docker و متغیرهای محیطی مانند OLLAMA_HOST را پیکربندی کنید.
APIهای میزبانی‌شده سخت‌افزار را انتزاع می‌کنند. شما با استفاده از URL پایه و کلید API، دقیقاً مانند ارائه‌دهندگان ابری بزرگ متصل می‌شوید. این نیاز به جعبه ابزار کانتینر NVIDIA یا مدیریت فایل‌های مدل محلی را از بین می‌برد.
مبادله هزینه در مقابل راحتی است. اجرای محلی پس از خرید سخت‌افزار رایگان است، در حالی که APIهای میزبانی شده بر اساس توکن هزینه دریافت می‌کنند. برای استفاده گاه‌به‌گاه یا نمونه‌سازی سریع، مسیر میزبانی شده اغلب سریع‌تر مستقر می‌شود.
مقایسه هزینه: سخت‌افزار GPU در مقابل صورتحساب مبتنی بر توکن
هزینه‌های استنتاج لوکال ثابت است: شما یک GPU می‌خرید. صورتحساب میزبانی‌شده با استفاده مقیاس می‌یابد. مدل ما 0.15 دلار به ازای هر 1M توکن ورودی و 0.50 دلار به ازای هر 1M توکن خروجی دریافت می‌کند. این مدل پیش‌پرداخت به این معنی است که خطاها و رد شدن‌ها رایگان هستند، بنابراین شما فقط برای نتایج واقعی پرداخت می‌کنید.
برای تولید با حجم بالا، سخت‌افزار محلی معمولاً از نظر قیمت برنده است. برای توسعه پراکنده یا تیم‌های کوچک، صورتحساب توکن پیش‌پرداخت از اضافه بار منابع GPU بلااستفاده جلوگیری می‌کند. می‌توانید با ارز دیجیتال از $20 شروع به شارژ کنید، اعتبار هدیه برای واریزهای بزرگ‌تر موجود است.
هزینه اشتراک ماهانه شما را درگیر نمی‌کند. اعتبار هرگز منقضی نمی‌شود، به این معنی که می‌توانید استفاده را متوقف کنید بدون از دست دادن وجوه.
محدودیت‌های Docker، CUDA و محلی
عملکرد محلی به شدت به نسخه CUDA و نسل سخت‌افزار شما بستگی دارد. Ollama از CUDA 5.0+ پشتیبانی می‌کند، اما مدل‌های مدرن روی معماری Ampere یا جدیدتر بهترین عملکرد را دارند. VLLM، برای مثال، به Volta یا جدیدتر نیاز دارد.
داکر اضافه بار کمی ایجاد می‌کند اما مدیریت وابستگی‌ها را ساده‌تر می‌سازد. می‌توانید از ابزارهایی مانند Coolify برای راه‌اندازی Ollama با Open Webgui با کمترین تلاش استفاده کنید. با این حال، باید مطمئن شوید که متغیر OLLAMA_HOST به درستی تنظیم شده است، که معمولاً برای دسترسی خارجی روی 0.0.0.0 قرار می‌گیرد.
APIهای میزبانی‌شده عملکرد ثابتی را صرف‌نظر از ماشین محلی شما ارائه می‌دهند. این زمانی که به تأخیر قابل پیش‌بینی برای برنامه‌های بلادرنگ نیاز دارید، حیاتی است.
جدول تصمیم‌گیری: Ollama محلی در مقابل این API
| ویژگی | Ollama محلی | API بدون سانسور میزبانی‌شده |
|---|---|---|
| پیچیدگی راه‌اندازی | بالا (CUDA، داکر، پیکربندی) | کم (کلید API + Base URL) |
| مدل هزینه | سرمایه‌گذاری سخت‌افزاری (Hardware CapEx) | مصرف توکن پیش‌پرداخت |
| حریم خصوصی | کنترل کامل | پرامپت‌ها برای آموزش استفاده نمی‌شوند |
| پنجره زمینه | وابسته به VRAM | ۱۰۰,۰۰۰ توکن |
| بروزرسانی‌ها | دستی | خودکار |
محدودیت‌های فنی: پنجره زمینه و محدودیت‌ها
مدل‌های محلی محدود به VRAM GPU شما هستند. یک مدل 7B ممکن است جا شود، اما مدل‌های بزرگ‌تر به CPU منتقل می‌شوند که استنتاج را به شدت کند می‌کند. API ما از پنجره زمینه 100,000 توکنی پشتیبانی می‌کند که به شما امکان می‌دهد اسناد بزرگ را بدون محدودیت‌های سخت‌افزاری محلی پردازش کنید.
API محدودیت حداکثر ۱۶,۰۰۰ توکن برای خروجی هر درخواست را اعمال می‌کند. اگر max_tokens را تنظیم نکنید، پیش‌فرض ۲,۰۴۸ توکن است. این موضوع برای تضمین هزینه‌کرد قابل‌پیش‌بینی و تخصیص منابع انجام می‌شود.
محدودیت نرخ درخواست‌ها روی ۳۰۰ درخواست در دقیقه به ازای هر کلید تنظیم شده است. این مقدار برای بیشتر جریان‌های کاری توسعه و تولید متوسط کافی است. می‌توانید از یک کلید فعال به ازای هر حساب استفاده کنید و در صورت نیاز آن را جایگزین نمایید.
شفافیت صورتحساب: پیش‌پرداخت در مقابل اشتراک
مدل‌های اشتراکی اغلب برای زمان‌های بلااستفاده هزینه دریافت می‌کنند. صورتحساب توکنی پیش‌پرداخت تنها برای آنچه استفاده می‌کنید هزینه دریافت می‌کند. اعتبار ما هرگز منقضی نمی‌شود، بنابراین می‌توانید یک بار شارژ کنید و آن را در طول ماه‌ها یا سال‌ها استفاده کنید.
پرداخت‌ها فقط با ارز دیجیتال است: USDT (TRC20) یا USDC (Base). می‌توانید هر مبلغ صحیحی بین $20 تا $500 واریز کنید. اعتبار هدیه به‌طور خودکار اضافه می‌شود: +5% از $50، +10% از $100 و +15% از $200.
حساب‌های جدید ۰٫۵۰ دلار اعتبار آزمایشی معتبر برای ۷ روز دریافت می‌کنند. اشتباهاتی مانند شارژهای دوگانه از طریق صفحه پشتیبانی رفع می‌شوند، اما اعتبار خود غیرقابل استرداد است.
سوالات متداول رایج درباره API Ollama
چگونه از مدل بدون سانسور استفاده کنم؟ درخواست‌ها را به URL پایه ما با شناسه مدل "بدون سانسور" ارسال کنید. این پارامترهای استاندارد SDK OpenAI مانند temperature، top_p و stop را می‌پذیرد. مدل موضوعات قانونی بزرگسالان یا بحث‌برانگیز را رد نمی‌کند.
آیا این API رسمی Ollama است؟ خیر. ما یک سرویس مستقل هستیم. Ollama ابزاری برای اجرای مدل‌ها به صورت محلی است. ما یک مدل با وزن باز متفاوت را از طریق یک نقطه پایانی سازگار با OpenAI میزبانی می‌کنیم.
اگر اعتبارم تمام شود چه می‌شود؟ درخواست‌ها تا زمانی که شارژ کنید شکست می‌خورند. می‌توانید هر زمان اعتبار را از طریق ارز دیجیتال اضافه کنید. اعتبار موجود شما منقضی نمی‌شود.
آیا از پرامپت‌های من برای آموزش استفاده می‌کنید؟ خیر. ما از پرامپت‌های شما برای آموزش استفاده نمی‌کنیم. داده‌های شما خصوصی باقی می‌ماند.
پرسش‌های رایج
پنجره زمینه برای API بدون محدودیت (uncensored) چیست؟
API پنجره زمینه ۱۰۰,۰۰۰ توکنی را برای پرامپت و تکمیل به صورت ترکیبی پشتیبانی می‌کند. این به شما امکان می‌دهد اسناد بزرگ را بدون محدودیت‌های VRAM محلی پردازش کنید. حداکثر خروجی ۱۶,۰۰۰ توکن در هر درخواست است.
چگونه برای API پرداخت کنم؟
پرداخت‌ها فقط با ارز دیجیتال (USDT (TRC20) یا USDC (Base)) است. می‌توانید هر مبلغ صحیحی را از $20 تا $500 واریز کنید. اعتبار هدیه بر اساس اندازه واریز اضافه می‌شود، با حداکثر بونوس 15٪ برای واریزهای $200+.
آیا می‌توانم از کد SDK موجود OpenAI خود استفاده کنم؟
بله. این API سازگار با OpenAI است. تنها کافی است base_url را به HTTPS://api.ollamaapidocs.com/v1 تغییر دهید و کلید API خود را به‌روزرسانی کنید. تمام پارامترهای استاندارد مانند temperature و top_p پشتیبانی می‌شوند.
محدودیت‌های نرخ چیست؟
شما محدود به ۳۰۰ درخواست در دقیقه به ازای هر کلید و ۸ درخواست همزمان هستید. اندازه بدنه درخواست به ۸ مگابایت محدود شده است. این محدودیت‌ها برای بیشتر بارهای کاری توسعه و تولید متوسط کافی هستند.
کلید API خود را تولید کنید
ثبت‌نام کنید، کلید خود را کپی کنید و آدرس پایه را به‌روز کنید. همین‌ها برای شروع کافی است.
