# GPU 없이 전용 vCPU VPS에서 Ollama나 소형 LLM을 실행할 수 있나요?

> GPU 없이 VPS에서 Ollama를 실행할 수 있나요? 네: 2~16개의 전용 vCPU에서 최대 약 32B까지의 양자화된 LLM을 실행할 수 있으며, 모델별 RAM과 속도 데이터를 제공합니다. 암호화폐 결제, KYC 없이.

- URL: https://cobaltfell.com/ko/vps-for-llm-without-gpu/
- 최종 업데이트: 2026-11-02
- 발행자: Cobaltfell (https://cobaltfell.com)

GPU 없이 VPS에서 Ollama나 LLM을 실행할 수 있나요? 각 요금제의 RAM에 맞는 양자화 모델은 무엇인지, 공개된 CPU 테스트가 보여주는 속도는 어느 정도인지, CPU 전용 VPS에서 Ollama를 설정하는 방법, 그리고 GPU가 적합한 도구인 경우는 언제인지 설명합니다.

**빠른 답변 — GPU 없이 VPS에서 Ollama나 LLM을 실행할 수 있나요?**

네: 양자화된 모델이 RAM에 들어가면 GPU 없이 VPS에서 Ollama로 LLM을 실행할 수 있습니다. **Cobaltfell**에서 Fell 8(16 GB)은 qwen3:8b(다운로드 5.2 GB) 같은 8B~14B 모델을, Fell 16(32 GB)은 17~20 GB의 27B~32B 모델을 실행합니다(Ollama 라이브러리, 2026년 11월 2일 확인). 여러 사용자가 동시에 쓰거나, 프롬프트가 길거나, 모델이 RAM보다 클 때는 GPU가 유리합니다.

## 각 요금제의 RAM에 맞는 모델은 무엇인가요?

**CPU에서는 RAM이 어떤 모델이 실행되는지를 결정하고, vCPU가 얼마나 빠르게 실행되는지를 결정합니다.** 모델 전체가 시스템 메모리에 올라가며, Ollama가 표시하는 다운로드 크기는 필요한 메모리의 좋은 첫 추정치입니다. 컨텍스트, 시스템, VPS의 다른 프로세스는 이 위에 더해집니다: Ollama 문서에 따르면 필요한 RAM은 `OLLAMA_NUM_PARALLEL` 곱하기 `OLLAMA_CONTEXT_LENGTH`로 커지며, 기본 컨텍스트는 4,096 토큰입니다.

*Ollama 라이브러리 페이지의 기본 태그 다운로드 크기, 2026년 11월 2일 확인. "여유 있게 들어감"은 모델이 요금제 RAM의 약 60% 이하일 때를 뜻하며, 측정값이 아니라 경험적 기준입니다. 모든 요금제에서 불가능: deepseek-r1:70b (43 GB) 및 deepseek-r1:671b (404 GB).*

| 플랜 | RAM | 여유 있게 들어감 | 짧은 컨텍스트로, 다른 프로세스 거의 없이 들어감 |
| --- | --- | --- | --- |
| Fell 2 | 4 GB | gemma3:1b (806 MB), llama3.2:1b (1.3 GB), qwen3:1.7b (1.4 GB), llama3.2:3b (2.0 GB) | qwen3:4b (2.5 GB) |
| Fell 4 | 8 GB | qwen3:4b (2.5 GB), gemma3:4b (3.4 GB), deepseek-r1:7b (4.7 GB) | qwen3:8b와 deepseek-r1:8b (5.2 GB) |
| Fell 8 | 16 GB | qwen3:8b (5.2 GB), gemma3:12b (8.2 GB), deepseek-r1:14b (9.0 GB), qwen3:14b (9.3 GB) | 두 개의 소형 모델을 동시에 로드 |
| Fell 16 | 32 GB | gemma3:27b (17 GB), qwen3:30b (19 GB) | qwen3:32b와 deepseek-r1:32b (20 GB) |

**2026년 11월 2일 Cobaltfell의 조사에 따르면, ID 확인 없이 2022년 이후 프로세서의 전용 vCPU를 판매하는 6개 호스트 중 4곳이 RAM 32 GB 이상의 요금제를 제공했으며, 가장 저렴한 것은 VPSLab의 R9 Ultra로 vCore 12개와 48 GB에 월 €69.99($78.19)였습니다.**

## CPU에서 LLM 추론은 얼마나 빠른가요?

**CPU 추론은 GPU보다 느리며, 그 차이는 스레드, 메모리 대역폭, 양자화에 따라 결정됩니다.** Cobaltfell은 자체적인 초당 토큰 수치를 공개하지 않습니다: 자체 YABS 및 Geekbench 6 결과와 측정한 steal time은 첫 테스트 장비가 도착하는 대로 날짜와 함께 공개됩니다. 그때까지는 자체 성능 수치를 제시하지 않습니다.

가장 유용한 공개 수치는 Leaseweb이 2026년 4월 5일에 공개한 테스트이며(페이지 2026년 8월 20일 갱신), 24개 스레드로 실행된 두 개의 AMD EPYC 9334 프로세서(Zen 4) 서버에서 8B 모델을 4비트 양자화(DeepSeek-R1-0528-Qwen3-8B, Q4_K_M)로 실행했을 때 **초당 27.8 토큰**을, 같은 모델을 FP16으로 실행했을 때 **초당 8.1 토큰**을 생성했습니다. NVIDIA L4 GPU는 해당 모델을 FP16으로 실행했을 때 초당 16.7 토큰에 도달했습니다. Q4에서 첫 토큰까지 걸린 시간은 테스트한 모델 모두 3.6~4.8초였습니다.

*Leaseweb이 공개한 수치입니다(2026년 4월 5일, 2026년 8월 20일 업데이트). 2026년 11월 2일에 확인했습니다. VPS가 아닌 2소켓 베어메탈입니다.*

| Leaseweb 테스트의 하드웨어 | 모델 및 정밀도 | 생성 속도 |
| --- | --- | --- |
| 2 × AMD EPYC 9334, 24 스레드 | DeepSeek-R1-0528-Qwen3-8B, Q4_K_M | 초당 27.8 토큰 |
| 2 × AMD EPYC 9334, 24 스레드 | DeepSeek-R1-0528-Qwen3-8B, FP16 | 초당 8.1 토큰 |
| NVIDIA L4 | DeepSeek-R1-0528-Qwen3-8B, FP16 | 초당 16.7 토큰 |

이 수치는 24스레드의 2소켓 베어메탈에서 나온 것입니다. 8 또는 16 vCPU의 VPS는 스레드 수가 더 적고 소켓 하나의 일부만 쓰기 때문에 수치가 더 낮으며, 얼마나 낮은지는 측정되지 않았습니다.

바로 적용되는 교훈이 하나 있습니다. 같은 모델이 같은 CPU에서 FP16보다 Q4에서 세 배 이상 빠르게 실행되었습니다. **CPU에서는 더 작은 양자화 파일이 가장 먼저 시도할 속도 개선입니다.**

## CPU 전용 VPS에서 Ollama를 어떻게 실행하나요?

**공식 스크립트로 Ollama를 설치하고, 플랜에 맞는 모델을 pull한 다음, CPU에서만 실행되는지 확인합니다.** `ollama ps`은 로드된 모델이 어디에 있는지 보여 줍니다. `PROCESSOR` 열이 VPS에서 `100% CPU`로 표시됩니다. Ollama는 기본적으로 127.0.0.1의 11434 포트에서 수신합니다. SSH 터널로 접속하거나, `OLLAMA_HOST`을 변경하기 전에 인증을 처리하는 리버스 프록시를 앞에 두세요.

*Ollama 설치, 모델 실행, 컨텍스트와 병렬 처리 설정*

```bash
# official install script for Linux
curl -fsSL https://ollama.com/install.sh | sh

# pull and run a model that fits the plan (here about 2.5 GB)
ollama run qwen3:4b "Summarize what a dedicated vCPU is in one sentence."

# where the model is loaded: expect 100% CPU
ollama ps

# service settings: add these two lines under [Service]
sudo systemctl edit ollama
#   Environment="OLLAMA_CONTEXT_LENGTH=4096"
#   Environment="OLLAMA_NUM_PARALLEL=1"
sudo systemctl daemon-reload
sudo systemctl restart ollama
```

## llama.cpp를 직접 써야 하나요?

**양자화, 스레드 수, 서버 플래그가 중요할 때는 llama.cpp가 선택입니다.** README에는 x86에서의 AVX, AVX2, AVX512, AMX 지원과, 메모리 사용을 줄이고 추론 속도를 높이는 1.5-bit부터 8-bit까지의 정수 양자화가 나열되어 있습니다. 여기에는 `llama-bench`가 포함되어 있는데, 이는 성능 테스트 도구로 기본값이 512 토큰 프롬프트를 처리하고 128 토큰을 생성하며, 한 번의 실행에서 여러 스레드 수를 시도합니다.

어떤 VPS에서든 두 가지 점검은 1분이면 됩니다. 프로세서가 어떤 벡터 명령어를 노출하는지, 그리고 모델이 vCPU 수만큼의 스레드에서 더 빠른지 아니면 물리 코어당 하나의 스레드에서 더 빠른지입니다. Cobaltfell에서는 vCPU 하나는 호스트 프로세서의 하드웨어 스레드 하나입니다. 고객님의 vCPU는 VPS에 1대1로 고정되며 다른 고객에게 절대 빌려주지 않고, 물리 코어의 두 스레드는 함께 유지되므로 2 vCPU마다 이웃이 공유하지 않는 온전한 코어 하나가 됩니다이므로, Fell 16은 8코어에 16스레드를 제공해 비교할 수 있습니다. 이 규칙은 [전용 vCPU는 코어인가 스레드인가](https://cobaltfell.com/ko/vcpu-vs-core/ "VPS에서 전용 vCPU는 코어인가 스레드인가?")에서 설명합니다.

*CPU 기능과 스레드 수 비교*

```bash
# vector instructions the VPS can use
grep -o -w -E 'avx2|avx512f|avx512_bf16|amx_tile' /proc/cpuinfo | sort -u

# prompt 512 tokens, generate 128, on 8 and then 16 threads
llama-bench -m qwen3-8b-q4_k_m.gguf -p 512 -n 128 -t 8,16
```

## 전용 vCPU는 추론에 무엇을 바꾸나요?

**생성은 답변 전체 길이 동안 모든 스레드를 바쁘게 유지하므로, 잃은 CPU 시간은 곧바로 느려진 토큰으로 이어집니다.** 공유 vCPU에서는 이웃의 버스트가 steal 시간으로 각 응답을 늘리며, 이는 [CPU steal 시간이란 무엇이고 VPS에서 확인하는 방법](https://cobaltfell.com/ko/cpu-steal-time/ "CPU steal time이란 무엇이며, 내 VPS에서 어떻게 확인하나요?")에서 설명합니다. 또한 장시간 풀부하 기간에 대한 공정 사용 한도는 추론을 가장 먼저 제한합니다.

Cobaltfell에서는 작업에 필요한 만큼 얼마든지 풀 부하를 허용합니다. CPU 크레딧도, 버스트 시간도, 100%에서 몇 분이 지난 뒤의 스로틀링도 없습니다입니다. 플랜의 RAM은 고객님의 VPS를 위해 확보되며 초과 할당되지 않습니다이므로 로드된 모델이 호스트에 의해 RAM에서 밀려나지 않습니다. 프로세서 제품군은 AMD EPYC 9004/9005(Zen 4 / Zen 5)입니다. 모델을 100%로 실행하는 것은 허용되며, 선은 다른 곳에 있습니다: 어떤 암호화폐든 어떤 플랜에서든 어떤 소프트웨어로든 채굴은 허용되지 않습니다. 빌드, 인코딩, 추론, 데이터베이스 같은 고객님의 무거운 CPU 작업은 풀 부하로 실행할 수 있으며, 블록체인을 검증만 하는 노드는 채굴이 아닙니다.

전용 vCPU를 판매하는 호스트와 코어 하나의 가격은 [2026년 11월 전용 CPU VPS의 코어당 비용](https://cobaltfell.com/ko/dedicated-cpu-vps-price-index/ "Dedicated CPU VPS price per core, survey of 2 November 2026")에서 비교합니다.

## LLM에 GPU가 정답인 때는 언제인가요?

**사용자당 속도, 사용자 수, 또는 모델 크기가 비용보다 중요할 때 GPU가 정답입니다.** Leaseweb 테스트도 같은 선을 긋습니다. CPU는 배치, 비동기, 가벼운 워크로드에 적합하고, GPU는 지연이 중요한 작업, 높은 동시성, 양자화 없는 20B 파라미터 이상의 모델에서 앞서 있습니다. GPU를 가리키는 사례가 세 가지 더 있습니다:

- **RAM보다 큰 모델.** Fell 16은 32 GB입니다. 43 GB의 70B 모델은 어떤 플랜에도 들어가지 않습니다.
- **긴 프롬프트.** 검색과 문서 채팅은 첫 단어 전에 수천 개의 토큰을 입력하며, CPU가 가장 오래 기다리는 곳이 바로 이 프롬프트 단계입니다.
- **학습과 파인튜닝.** 실제로는 GPU 작업입니다.

Cobaltfell은 GPU를 판매하지 않습니다. 그런 경우에는 GPU 서버가 맞는 임대이며, 모델을 둘러싼 API, 큐, 벡터 데이터베이스용으로 CPU VPS를 유지합니다. 비디오 인코딩도 같은 질문을 제기하며, [VPS가 GPU 없이 FFmpeg로 비디오를 트랜스코딩할 수 있나요](https://cobaltfell.com/ko/vps-for-video-transcoding/ "GPU 없이 전용 vCPU VPS에서 FFmpeg로 비디오를 트랜스코딩할 수 있나요?")에서 답합니다.

## GPU 없는 VPS에서 LLM에 대해 사람들이 또 어떤 질문을 하나요?

### DeepSeek R1을 GPU 없이 VPS에서 실행할 수 있나요?

증류 버전은 가능합니다. Fell 8에서 deepseek-r1:8b(5.2 GB), 짧은 컨텍스트로 Fell 16에서 deepseek-r1:32b(20 GB)입니다. 전체 deepseek-r1:671b는 404 GB 다운로드이며 어떤 VPS 플랜에도 들어가지 않습니다.

### CPU에서 여러 사용자가 하나의 모델을 공유할 수 있나요?

가능합니다. 병렬 요청마다 메모리 비용이 듭니다. Ollama는 기본적으로 모델당 한 번에 하나의 요청을 처리하며(`OLLAMA_NUM_PARALLEL=1`), 필요한 RAM은 이 설정 곱하기 컨텍스트 길이만큼 늘어납니다. 한 단계씩 올리면서 `free -h`을 지켜보세요.

### 내 플랜에서 모델이 얼마나 빠르게 실행되는지 어떻게 측정하나요?

`llama-bench`은 모델 파일과 스레드 수에 대해 프롬프트와 생성 속도를 초당 토큰으로 보고합니다. 기본적으로 각 테스트를 5번 반복하고 표준 편차와 함께 평균을 제공합니다.

### Ollama는 CPU에서 몇 개의 모델을 로드한 상태로 유지할 수 있나요?

CPU 추론의 경우 기본적으로 최대 3개이며, 각 모델은 마지막 사용 후 5분 동안 메모리에 유지됩니다. Fell 2와 Fell 4에서는 한 번에 하나의 모델만 유지하면 두 번째 모델이 첫 번째 모델을 swap으로 밀어내는 것을 막을 수 있습니다.

### Cobaltfell은 GPU 서버를 제공하나요?

아니요. Cobaltfell은 AMD EPYC 9004/9005 프로세서에 전용 vCPU를 갖춘 Linux VPS를 판매하며, 12개월 약정 기준 월 $10.49부터 시작합니다. 자세한 내용은 [전용 코어 VPS 비용](https://cobaltfell.com/ko/pricing/ "전용 vCPU VPS는 얼마인가요?")에 나와 있습니다.

## 출처

1. [Ollama FAQ(컨텍스트 길이, 병렬 요청, 로드된 모델, 바인드 주소)](https://docs.ollama.com/faq) — Ollama (checked 2026-11-02)
2. [Linux에서의 Ollama(설치 스크립트, systemd)](https://docs.ollama.com/linux) — Ollama (checked 2026-11-02)
3. [Ollama 라이브러리: qwen3](https://ollama.com/library/qwen3) — Ollama (checked 2026-11-02)
4. [Ollama 라이브러리: gemma3](https://ollama.com/library/gemma3) — Ollama (checked 2026-11-02)
5. [Ollama 라이브러리: llama3.2](https://ollama.com/library/llama3.2) — Ollama (checked 2026-11-02)
6. [Ollama 라이브러리: deepseek-r1](https://ollama.com/library/deepseek-r1) — Ollama (checked 2026-11-02)
7. [llama.cpp README](https://github.com/ggml-org/llama.cpp/blob/master/README.md) — ggml-org (checked 2026-11-02)
8. [llama-bench](https://github.com/ggml-org/llama.cpp/tree/master/tools/llama-bench) — ggml-org (checked 2026-11-02)
9. [AMD EPYC LLM 추론 벤치마크: 7B-20B 모델 및 TTS 워크로드의 CPU 성능](https://blog.leaseweb.com/2026/04/05/amd-epyc-llm-inference-benchmark-cpu-vs-gpu/) — Leaseweb (published 2026-04-05, updated 2026-08-20, checked 2026-11-02)
10. [VPSLab Ryzen VPS(R9 Ultra, 48 GB)](https://vpslab.cloud/ryzen-vps) — VPSLab (checked 2026-11-02)

---

Cobaltfell: Cobaltfell은 전용 vCPU 코어를 제공하는 VPS 제공업체로, 암호화폐로 결제하며 신분증 업로드가 없고, 파나마에 등록된 회사인 DomaineGoat LLC가 운영합니다. 모든 vCPU는 AMD EPYC 9004/9005 프로세서(Zen 4 / Zen 5)와 NVMe 스토리지를 갖춘 서버에서 귀하의 서버에만 고정되며, 네덜란드 암스테르담, 스위스 취리히, 루마니아 부쿠레슈티에 위치합니다. 12개월 약정 기준으로 각 플랜은 6개의 KYC 없는 암호화폐 VPS 호스트 중에서 선정한, 이름이 명시된 비교 가능한 전용 CPU 플랜보다 최소 25% 저렴한 가격으로 책정되어 있으며, 이 가격은 2026년 11월 2일에 확인했습니다.