Ollama API 문서: Uncensored API 비교
이 가이드는 로컬 Ollama 배포판과 호스팅된 uncensored OpenAI 호환 API를 비교하여 적절한 인프라를 선택하는 데 도움을 줍니다. CUDA 드라이버, Docker 오버헤드 및 토큰 과금의 기술적 트레이드오프를 검토하여 자체 GPU를 관리할지 아니면 선불 API 키를 사용할지 결정할 수 있습니다.
마지막 업데이트
비제약 API를 선택해야 하는 이유?
Uncensored API는 합법적인 성인, 픽션 또는 논쟁적인 주제를 거부하지 않는 모델에 직접 접근할 수 있습니다. 이 접근 방식은 모델별 종속성 관리 또는 정렬 레이어 미세 조정을 직접 수행할 필요가 없게 합니다.
저희 호스팅 서비스는 최소한의 거부를 위해 최적화된 오픈 가중치 모델을 제공합니다. 콘텐츠 필터가 워크플로우를 차단하는 것을 걱정하지 않고 표준 텍스트 입력을 보내고 텍스트 출력을 받으실 수 있습니다. API는 SSE 스트리밍, 함수 호출 및 JSON 모드를 지원하여 현대적인 개발자 스택과의 호환성을 보장합니다.
로컬 설정과 달리 GPU 온도 모니터링이나 드라이버 업데이트 처리가 필요 없습니다. 인프라가 자동으로 확장되므로 서버 유지보수에 시간을 할애하기보다 애플리케이션 구축에 집중할 수 있습니다.
로컬 Ollama vs 호스팅 API: 트레이드오프
로컬 배포는 완전한 데이터 프라이버시와 WAN에서의 제로 지연을 제공하지만 상당한 하드웨어 관리가 필요합니다. CUDA 드라이버, Docker 컨테이너, OLLAMA_HOST와 같은 환경 변수를 구성해야 합니다.
호스팅 API는 하드웨어 추상화를 제공합니다. 주요 클라우드 제공업체와 마찬가지로 기본 URL과 API 키를 사용하여 연결합니다. 이는 NVIDIA Container Toolkit이 필요 없으며 로컬 모델 파일을 관리할 필요가 없음을 의미합니다.
대가는 비용과 편의성 간의 균형입니다. 로컬 실행은 하드웨어 구매 후 무료인 반면, 호스팅 API는 토큰당 요금을 청구합니다. 간헐적인 사용이나 빠른 프로토타이핑의 경우 호스팅 경로가 종종 배포가 더 빠릅니다.
비용 비교: GPU 하드웨어 vs 토큰 청구
로컬 추론 비용은 고정됩니다: GPU를 한 번 구매합니다. 호스팅 청구는 사용량에 따라 확장됩니다. 당사 모델은 입력 토큰 1M당 $0.15, 출력 토큰 1M당 $0.50을 청구합니다. 이 사전 지불 모델은 오류와 거부가 무료이므로 실제 결과에 대해서만 지불합니다.
고볼륨 프로덕션 환경에서는 로컬 하드웨어가 일반적으로 가격 면에서 우위를 점합니다. sporadic한 개발이나 소규모 팀의 경우 선불 토큰 과금이 유휴 GPU 리소스의 오버헤드를 피합니다. 최소 $20부터 시작하여 암호화폐로 충전할 수 있으며, 큰 입금 시 보너스 크레딧을 받을 수 있습니다.
월 구독이 고객을 묶어두지 않습니다. 크레딧은 만료되지 않으므로 사용 중단을 해도 자금을 잃지 않습니다.
성능: Docker, CUDA 및 로컬 제약 사항
로컬 성능은 CUDA 버전과 하드웨어 세대에 크게 의존합니다. Ollama는 CUDA 5.0+를 지원하지만, 최신 모델은 Ampere 아키텍처 또는 그 이상에서 가장 잘 작동합니다. 예를 들어 VLLM은 볼타(Volta) 이상을 요구합니다.
Docker는 약간의 오버헤드를 추가하지만 의존성 관리를 단순화합니다. Coolify와 같은 도구를 사용하면 최소한의 노력으로 Ollama와 Open Webgui를 설정할 수 있습니다. 하지만 외부 접근을 위해 OLLAMA_HOST 변수를 0.0.0.0으로 올바르게 설정해야 합니다.
호스팅 API는 로컬 기계와 상관없이 일관된 성능을 제공합니다. 이는 실시간 애플리케이션에 예측 가능한 지연 시간이 필요할 때 매우 중요합니다.
결정표: 로컬 Ollama vs 이 API
| 기능 | 로컬 Ollama | 호스팅 필터링 없는 API |
|---|---|---|
| 설정 복잡도 | 높음 (CUDA, Docker, Config) | Low (API Key + Base URL) |
| 비용 모델 | 하드웨어 CapEx | 선불 토큰 사용량 |
| 개인정보 보호 | 전체 제어 | 프롬프트는 학습에 사용되지 않음 |
| 컨텍스트 윈도우 | VRAM에 따라 다름 | 100,000 토큰 |
| 업데이트 | 수동 | 자동 |
기술적 제약: 컨텍스트 윈도우 및 한도
로컬 모델은 GPU VRAM에 제한됩니다. 7B 모델은 적합할 수 있지만, 더 큰 모델은 CPU로 스와핑되어 추론 속도가 현저히 느려집니다. 저희 API는 로컬 하드웨어 제한 없이 큰 문서를 처리할 수 있는 100,000개의 토큰 컨텍스트 창을 지원합니다.
API는 요청당 최대 16,000개의 토큰 출력을 제한합니다. max_tokens을 설정하지 않으면 기본값은 2,048 토큰입니다. 이는 예측 가능한 과금과 자원 할당을 보장합니다.
초당 요청 제한은 키당 분당 300회입니다. 이는 대부분의 개발 및 중간 규모 프로덕션 워크로드에 충분합니다. 계정당 하나의 활성 키를 사용할 수 있으며 필요시 교체할 수 있습니다.
청구 투명성: 선불 vs 구독
구독 모델은 종종 유휴 시간에도 요금을 부과합니다. 선불 토큰 과금 방식은 사용한 만큼만 청구합니다. 크레딧은 만료되지 않으므로 한 번 충전하여 수개월 또는 수년에 걸쳐 사용할 수 있습니다.
결제는 암호화폐 전용입니다: USDT(TRC20) 또는 USDC(Base). $20에서 $500 사이의 정수 금액을 입금할 수 있습니다. 보너스 크레딧이 자동으로 추가됩니다: $50부터 +5%, $100부터 +10%, $200부터 +15%.
신규 계정은 7일 동안 유효한 $0.50의 체험 크레딧을 받습니다. 이중 청구와 같은 오류는 지원 페이지를 통해 해결되지만, 크레딧 자체는 환불 불가합니다.
FAQ: 일반적인 Ollama API 질문
uncensored 모델을 사용하는 방법은 무엇인가요? 모델 ID "uncensored"를 사용하여 당사 기본 URL에 요청을 보내세요. 이는 온도, top_p, stop과 같은 표준 OpenAI SDK 매개변수를 허용합니다. 모델은 합법적인 성인 주제나 논쟁적인 주제를 거부하지 않습니다.
이것이 공식 Ollama API인가요? 아니요. 우리는 독립적인 서비스입니다. Ollama는 로컬에서 모델을 실행하는 도구입니다. 우리는 OpenAI 호환 엔드포인트를 통해 다른 오픈 웨이트 모델을 호스팅합니다.
크레딧이 부족해지면 어떻게 되나요? 충전할 때까지 요청이 실패합니다. 언제든지 암호화폐를 통해 크레딧을 추가할 수 있습니다. 기존 크레딧은 만료되지 않습니다.
프롬프트를 학습에 사용하나요? 아니요. 당사는 귀하의 프롬프트를 학습에 사용하지 않습니다. 귀하의 데이터는 비공개로 유지됩니다.
자주 묻는 질문
uncensored API의 context window는 어떻게 되나요?
API는 프롬프트와 완성을 합쳐 100,000개의 토큰 컨텍스트 윈도우를 지원합니다. 이를 통해 로컬 VRAM 제약 없이 큰 문서를 처리할 수 있습니다. 최대 출력은 요청당 16,000개의 토큰입니다.
API는 어떻게 결제하나요?
지불은 암호화폐 전용(TRC20의 USDT 또는 Base의 USDC)입니다. $20부터 $500까지의 정수 금액을 입금할 수 있습니다. 보너스 크레딧은 입금 크레딧 크레딧에 따라 추가되며, $200 이상 입금 시 최대 +15% 보너스를 제공합니다.
기존 OpenAI SDK 코드를 사용할 수 있나요?
예. API는 OpenAI 호환입니다. 기본 URL을 HTTPS://api.ollamaapidocs.com/v1로 변경하고 API 키만 업데이트하면 됩니다. temperature와 top_p와 같은 표준 파라미터가 모두 지원됩니다.
속도 제한은 무엇입니까?
키당 분당 300회 요청, 동시 요청 8개로 제한됩니다. 요청 본문 크기는 8MB로 제한됩니다. 이러한 제한은 대부분의 개발 및 중간 규모 프로덕션 워크로드에 충분합니다.
API 키 생성
가입하고, 키를 복사한 후 기본 URL을 업데이트하세요. 시작하는 데 그게 전부입니다.
