เอกสาร API Ollama: การเปรียบเทียบ API แบบ uncensored

ทำไมต้องเลือก API แบบไม่มีเซนเซอร์?

API แบบไม่เซ็นเซอร์ให้การเข้าถึงโมเดลโดยตรงที่ไม่ปฏิเสธเนื้อหาผู้ใหญ่ที่ถูกต้องตามกฎหมาย นามสมมติ หรือหัวข้อที่ถกเถียงได้ แนวทางนี้ขจัดความจำเป็นในการจัดการการพึ่งพาเฉพาะโมเดลหรือปรับชั้นการปรับให้ตรงกัน (alignment layers) ด้วยตนเอง

บริการแบบโฮสต์ของเราส่งมอบโมเดลโอเพนเวตที่ปรับแต่งเพื่อการปฏิเสธน้อยที่สุด คุณส่งข้อความป้อนข้อมูลมาตรฐานและรับข้อความผลลัพธ์โดยไม่กังวลว่าตัวกรองเนื้อหาจะขัดขวางเวิร์กโฟลว์ของคุณ API รองรับสตรีมผ่าน SSE การเรียกใช้ฟังก์ชัน และโหมด JSON เพื่อให้เข้ากันได้กับชุดเครื่องมือพัฒนาสมัยใหม่

ต่างจากการติดตั้งแบบท้องถิ่น คุณไม่ต้องติดตามอุณหภูมิ GPU หรือจัดการการอัปเดตไดรเวอร์ โครงสร้างพื้นฐานปรับขนาดอัตโนมัติ ทำให้คุณสามารถมุ่งเน้นไปที่การสร้างแอปพลิเคชันของคุณแทนที่จะดูแลเซิร์ฟเวอร์

Ollama แบบ Local เทียบกับ API ที่โฮสต์ไว้: ข้อแลกเปลี่ยน

การปรับใช้แบบ Local ให้ความเป็นส่วนตัวของข้อมูลเต็มรูปแบบและความล่าช้าเป็นศูนย์ผ่าน WAN แต่ต้องการการจัดการฮาร์ดแวร์จำนวนมาก คุณต้องกำหนดค่าไดรเวอร์ CUDA คอนเทนเนอร์ Docker และตัวแปรสภาพแวดล้อมเช่น OLLAMA_HOST

API แบบโฮสต์ตัดความยุ่งยากของฮาร์ดแวร์ คุณเชื่อมต่อโดยใช้ URL ฐานและคีย์ API เหมือนกับที่คุณทำกับผู้ให้บริการคลาวด์รายใหญ่ สิ่งนี้ขจัดความจำเป็นใน NVIDIA Container Toolkit หรือการจัดการไฟล์โมเดลในเครื่อง

จุดแลกเปลี่ยนคือต้นทุนเทียบกับความสะดวก การรันในเครื่องฟรีหลังจากซื้อฮาร์ดแวร์ ในขณะที่ API แบบโฮสต์คิดเงินตาม token สำหรับการใช้งานเป็นครั้งคราวหรือการสร้างต้นแบบอย่างรวดเร็ว เส้นทางแบบโฮสต์มักปรับใช้เร็วกว่า

การเปรียบเทียบต้นทุน: ฮาร์ดแวร์ GPU เทียบกับการเรียกเก็บตามโทเค็น

ต้นทุนการอนุมานในเครื่องมีค่าคงที่: คุณซื้อ GPU ครั้งเดียว การเรียกเก็บเงินแบบโฮสต์จะปรับตามการใช้งาน โมเดลของเราคิดราคา $0.15 ต่อ 1M โทเค็นอินพุต และ $0.50 ต่อ 1M โทเค็นเอาต์พุต โมเดลชำระเงินล่วงหน้านี้หมายความว่าข้อผิดพลาดและการปฏิเสธนั้นฟรี ดังนั้นคุณจ่ายเฉพาะผลลัพธ์จริงเท่านั้น

สำหรับการใช้งานระดับการผลิตที่มีปริมาณสูง ฮาร์ดแวร์ท้องถิ่นมักชนะด้านราคา สำหรับการพัฒนาแบบเป็นครั้งคราวหรือทีมขนาดเล็ก การคิดค่าบริการตามโทเค็นแบบเติมเงินช่วยหลีกเลี่ยงค่าใช้จ่ายส่วนเกินของทรัพยากร GPU ที่ไม่ได้ใช้งาน คุณสามารถเติมเงินด้วยคริปโตเริ่มต้นที่ $20 พร้อมเครดิตโบนัสสำหรับการเติมเงินจำนวนมากขึ้น

ไม่มีสมาชิกรายเดือนที่ล็อกคุณไว้ เครดิตไม่หมดอายุ ทำให้คุณสามารถหยุดใช้งานชั่วคราวโดยไม่สูญเสียเงิน

Docker, CUDA และข้อจำกัดในการรันแบบโลคอล

ประสิทธิภาพท้องถิ่นขึ้นอยู่กับเวอร์ชัน CUDA และรุ่นฮาร์ดแวร์ของคุณ Ollama รองรับ CUDA 5.0+ แต่โมเดลสมัยใหม่ทำงานได้ดีที่สุดบนสถาปัตยกรรม Ampere หรือใหม่กว่า VLLM ตัวอย่างเช่น ต้องการ Volta หรือใหม่กว่า

Docker เพิ่มภาระการทำงานเล็กน้อยแต่ช่วยจัดการการพึ่งพาไลบรารีได้ง่ายขึ้น คุณสามารถใช้เครื่องมือเช่น Coolify เพื่อติดตั้ง Ollama พร้อม Open Webgui ได้อย่างรวดเร็ว อย่างไรก็ตาม คุณต้องตั้งค่าตัวแปร OLLAMA_HOST ให้ถูกต้อง มักจะเป็น 0.0.0.0 สำหรับการเข้าถึงจากภายนอก

API แบบโฮสต์เสนอประสิทธิภาพที่สอดคล้องกันโดยไม่คำนึงถึงเครื่องในเครื่องของคุณ สิ่งนี้สำคัญมากเมื่อคุณต้องการความหน่วงที่คาดการณ์ได้สำหรับแอปพลิเคชันแบบเรียลไทม์

ตารางการตัดสินใจ: Ollama ในเครื่อง เทียบกับ API นี้

ฟีเจอร์	Ollama ท้องถิ่น	API Uncensored แบบโฮสต์
ความซับซ้อนในการตั้งค่า	สูง (CUDA, Docker, Config)	ต่ำ (API Key + Base URL)
โมเดลต้นทุน	ต้นทุนเงินทุนด้านฮาร์ดแวร์	การใช้งานโทเค็นเติมเงินล่วงหน้า
ความเป็นส่วนตัว	การควบคุมเต็มรูปแบบ	Prompt ไม่ถูกนำไปใช้เทรน
หน้าต่างบริบท	ขึ้นอยู่กับ VRAM	100,000 Tokens
อัปเดต	แมนนวล	อัตโนมัติ

ข้อจำกัดทางเทคนิค: หน้าต่างบริบทและขีดจำกัด

โมเดลท้องถิ่นถูกจำกัดโดย VRAM ของ GPU ของคุณ โมเดลขนาด 7B อาจพอดี แต่โมเดลขนาดใหญ่กว่าจะสลับไปใช้ CPU ทำให้การอนุมานช้าลงอย่างมาก API ของเรารองรับหน้าต่างบริบทขนาด 100,000 โทเค็น ทำให้คุณสามารถประมวลผลเอกสารขนาดใหญ่ได้โดยไม่จำกัดด้วยฮาร์ดแวร์ท้องถิ่น

API กำหนดให้ผลลัพธ์สูงสุดมีขนาด 16,000 tokens ต่อคำขอ หากไม่ได้ตั้งค่า max_tokens ค่าเริ่มต้นคือ 2,048 tokens ซึ่งช่วยให้การเรียกเก็บเงินและการจัดสรรทรัพยากรมีความชัดเจนและคาดการณ์ได้

อัตราจำกัดการเรียกข้อมูลอยู่ที่ 300 ครั้งต่อนาทีต่อคีย์ ซึ่งเพียงพอสำหรับภาระงานส่วนใหญ่ในการพัฒนาและการผลิตระดับปานกลาง คุณสามารถใช้คีย์ที่ใช้งานอยู่หนึ่งคีย์ต่อบัญชี โดยแทนที่คีย์นั้นหากจำเป็น

ความโปร่งใสด้านการเรียกเก็บเงิน: แบบเติมเงิน vs การสมัครสมาชิก

แบบแผนการสมัครสมาชิกมักเรียกเก็บเงินสำหรับเวลาว่าง การเรียกเก็บเงินด้วยโทเค็นแบบเติมเงินคิดค่าบริการเฉพาะสิ่งที่ใช้ เครดิตของเราไม่หมดอายุ ดังนั้นคุณสามารถเติมเงินครั้งเดียวและใช้งานได้ในระยะเดือนหรือปี

การชำระเงินใช้คริปโตเท่านั้น: USDT (TRC20) หรือ USDC (Base) คุณสามารถฝากจำนวนเต็มใดๆ ตั้งแต่ $20 ถึง $500 บONUSเครดิตจะถูกเพิ่มอัตโนมัติ: +5% เมื่อเติม $50, +10% เมื่อเติม $100 และ +15% เมื่อเติม $200

บัญชีใหม่จะได้รับเครดิตทดลอง $0.50 ซึ่งใช้ได้เป็นเวลา 7 วัน ข้อผิดพลาดเช่นการชาร์จซ้ำจะถูกแก้ไขผ่านหน้า Support แต่เครดิตเองไม่สามารถคืนได้

FAQ: คำถามทั่วไปเกี่ยวกับ Ollama API

วิธีใช้โมเดล uncensored? ส่งคำขอไปยัง URL พื้นฐานของคุณพร้อมโมเดล id "uncensored" มันยอมรับพารามิเตอร์ SDK ของ OpenAI มาตรฐานเช่น temperature, top_p และ stop โมเดลจะไม่ปฏิเสธหัวข้อผู้ใหญ่หรือหัวข้อที่ถกเถียงได้ตามกฎหมาย

นี่คือ API ของ Ollama อย่างเป็นทางการหรือไม่? ไม่ใช่ครับ เราเป็นบริการที่เป็นอิสระ Ollama เป็นเครื่องมือสำหรับรันโมเดลในเครื่อง เราโฮสต์โมเดล open-weight ที่แตกต่างกันผ่านเอนด์พอยต์ที่เข้ากันได้กับ OpenAI

เกิดอะไรขึ้นถ้าเครดิตหมด? คำขอจะล้มเหลวจนกว่าคุณจะเติมเงิน คุณสามารถเพิ่มเครดิตผ่านคริปโตได้ตลอดเวลา เครดิตเดิมของคุณไม่หมดอายุ

คุณใช้ข้อความที่ฉันส่งไปเพื่อฝึกโมเดลหรือไม่? ไม่ เราไม่ใช้คำใบ้ของคุณสำหรับการฝึก ข้อมูลของคุณยังคงเป็นส่วนตัว