# Bisakah saya menjalankan Ollama atau LLM kecil di VPS vCPU dedikasi tanpa GPU?

> Bisakah saya menjalankan Ollama di VPS tanpa GPU? Ya: LLM terkuantisasi hingga 32B pada 2 hingga 16 vCPU. Bayar dengan kripto, tanpa KYC.

- URL: https://cobaltfell.com/id/vps-for-llm-without-gpu/
- Terakhir diperbarui: 2026-11-02
- Penerbit: Cobaltfell (https://cobaltfell.com)

Bisakah saya menjalankan Ollama atau LLM di VPS tanpa GPU? Model terkuantisasi mana yang muat di RAM tiap paket, apa yang ditunjukkan uji CPU yang dipublikasikan soal kecepatan, cara menyiapkan Ollama di VPS hanya-CPU, dan kapan GPU adalah pilihan yang tepat.

**Jawaban singkat — Bisakah saya menjalankan Ollama atau LLM di VPS tanpa GPU?**

Ya: Ollama menjalankan LLM di VPS tanpa GPU bila model terkuantisasi muat di RAM. Di **Cobaltfell**, Fell 8 (16 GB) menjalankan model 8B hingga 14B seperti qwen3:8b, unduhan 5,2 GB, dan Fell 16 (32 GB) menjalankan model 27B hingga 32B berukuran 17 hingga 20 GB (pustaka Ollama, diperiksa 2 November 2026). GPU unggul untuk banyak pengguna sekaligus, prompt panjang, atau model yang lebih besar dari RAM.

## Model mana yang muat di RAM tiap paket?

**Di CPU, RAM menentukan model mana yang berjalan dan vCPU menentukan seberapa cepat model itu berjalan.** Seluruh model berada di memori sistem, dan ukuran unduhan yang ditampilkan Ollama adalah perkiraan awal yang baik untuk memori yang dibutuhkannya. Context, sistem, dan apa pun yang lain di VPS ikut terhitung di atasnya: dokumentasi Ollama menyebutkan RAM yang dibutuhkan bertambah sebesar `OLLAMA_NUM_PARALLEL` kali `OLLAMA_CONTEXT_LENGTH`, dan context bawaan adalah 4.096 token.

*Ukuran unduhan tag bawaan di halaman pustaka Ollama, dibaca pada 2 November 2026. "Muat dengan sisa lega" menjaga model di atau di bawah sekitar 60% RAM paket, sebuah aturan praktis dan bukan hasil pengukuran. Di luar jangkauan di semua paket: deepseek-r1:70b (43 GB) dan deepseek-r1:671b (404 GB).*

| Paket | RAM | Muat dengan sisa lega | Muat dengan context pendek dan hampir tidak ada yang lain berjalan |
| --- | --- | --- | --- |
| Fell 2 | 4 GB | gemma3:1b (806 MB), llama3.2:1b (1,3 GB), qwen3:1.7b (1,4 GB), llama3.2:3b (2,0 GB) | qwen3:4b (2,5 GB) |
| Fell 4 | 8 GB | qwen3:4b (2,5 GB), gemma3:4b (3,4 GB), deepseek-r1:7b (4,7 GB) | qwen3:8b dan deepseek-r1:8b (5,2 GB) |
| Fell 8 | 16 GB | qwen3:8b (5,2 GB), gemma3:12b (8,2 GB), deepseek-r1:14b (9,0 GB), qwen3:14b (9,3 GB) | dua model kecil dimuat berdampingan |
| Fell 16 | 32 GB | gemma3:27b (17 GB), qwen3:30b (19 GB) | qwen3:32b dan deepseek-r1:32b (20 GB) |

**Menurut survei Cobaltfell pada 2 November 2026, 4 dari 6 host yang menjual vCPU dedikasi pada prosesor 2022 atau lebih baru tanpa pemeriksaan ID mencantumkan paket dengan RAM 32 GB atau lebih; yang paling murah adalah R9 Ultra dari VPSLab, 12 vCore dan 48 GB, seharga €69,99 ($78,19) per bulan.**

## Seberapa cepat inferensi LLM di CPU?

**Inferensi CPU lebih lambat daripada GPU dengan selisih yang ditentukan oleh thread, bandwidth memori, dan kuantisasi.** Cobaltfell tidak memublikasikan angka token per detik miliknya sendiri: Hasil YABS dan Geekbench 6 kami sendiri, bersama steal time yang kami ukur, akan diterbitkan beserta tanggalnya setelah mesin uji pertama kami tiba. Sampai saat itu kami tidak mencantumkan angka performa apa pun dari kami sendiri.

Angka publik yang paling berguna adalah uji yang dipublikasikan Leaseweb pada 5 April 2026 (halaman diperbarui 20 Agustus 2026). Pada server dengan dua prosesor AMD EPYC 9334 (Zen 4) yang menjalankan 24 thread, uji tersebut menghasilkan **27,8 token per detik** dengan model 8B pada kuantisasi 4-bit (DeepSeek-R1-0528-Qwen3-8B, Q4_K_M), dan **8,1 token per detik** dengan model yang sama pada FP16. GPU NVIDIA L4 mencapai 16,7 token per detik pada model tersebut di FP16. Waktu hingga token pertama pada Q4 berkisar antara 3,6 hingga 4,8 detik di antara model yang diuji.

*Angka sebagaimana diterbitkan oleh Leaseweb (5 April 2026, diperbarui 20 Agustus 2026), dibaca pada 2 November 2026. Bare metal dua soket, bukan VPS.*

| Perangkat keras dalam uji Leaseweb | Model dan presisi | Kecepatan generasi |
| --- | --- | --- |
| 2 × AMD EPYC 9334, 24 thread | DeepSeek-R1-0528-Qwen3-8B, Q4_K_M | 27,8 token/dtk |
| 2 × AMD EPYC 9334, 24 thread | DeepSeek-R1-0528-Qwen3-8B, FP16 | 8,1 token/dtk |
| NVIDIA L4 | DeepSeek-R1-0528-Qwen3-8B, FP16 | 16,7 token/dtk |

Angka-angka itu berasal dari bare metal dua soket dengan 24 thread. VPS dengan 8 atau 16 vCPU memiliki lebih sedikit thread dan hanya sebagian dari satu soket, sehingga angkanya lebih rendah; seberapa besar selisihnya belum diukur.

Satu pelajaran langsung berlaku: model yang sama berjalan lebih dari tiga kali lebih cepat pada Q4 dibandingkan FP16 di CPU yang sama. **Di CPU, file terkuantisasi yang lebih kecil adalah percepatan pertama yang perlu dicoba.**

## Bagaimana cara menjalankan Ollama di VPS khusus CPU?

**Instal Ollama dengan skrip resmi, tarik model yang muat di paket Anda, dan pastikan model berjalan sepenuhnya di CPU.** `ollama ps` menunjukkan di mana model yang dimuat berada: kolom `PROCESSOR`-nya bernilai `100% CPU` di VPS. Ollama mendengarkan di 127.0.0.1, port 11434, secara default; akses melalui SSH tunnel, atau letakkan reverse proxy yang mengautentikasi di depannya sebelum mengubah `OLLAMA_HOST`.

*Instal Ollama, jalankan model, atur context dan parallelism*

```bash
# official install script for Linux
curl -fsSL https://ollama.com/install.sh | sh

# pull and run a model that fits the plan (here about 2.5 GB)
ollama run qwen3:4b "Summarize what a dedicated vCPU is in one sentence."

# where the model is loaded: expect 100% CPU
ollama ps

# service settings: add these two lines under [Service]
sudo systemctl edit ollama
#   Environment="OLLAMA_CONTEXT_LENGTH=4096"
#   Environment="OLLAMA_NUM_PARALLEL=1"
sudo systemctl daemon-reload
sudo systemctl restart ollama
```

## Apakah saya sebaiknya memakai llama.cpp secara langsung?

**llama.cpp adalah pilihan ketika kuantisasi, jumlah thread, dan flag server menjadi hal penting.** README-nya mencantumkan dukungan AVX, AVX2, AVX512, dan AMX pada x86, serta kuantisasi integer dari 1,5-bit hingga 8-bit untuk menghemat memori dan mempercepat inferensi. Proyek ini menyertakan `llama-bench`, alat uji performa yang secara default memproses prompt 512 token dan menghasilkan 128 token, serta mencoba beberapa jumlah thread dalam satu kali jalan.

Dua pemeriksaan hanya butuh satu menit di VPS mana pun: instruksi vektor apa yang diekspos prosesor, dan apakah model berjalan lebih cepat pada jumlah thread sebanyak vCPU atau pada satu thread per core fisik. Di Cobaltfell, Satu vCPU adalah satu thread perangkat keras dari prosesor host. Thread milik Anda dipatok satu per satu ke VPS Anda dan tidak pernah dipinjamkan ke pelanggan lain, dan dua thread dari satu core fisik tetap bersama, jadi setiap 2 vCPU membentuk satu core utuh yang tidak dipakai bersama oleh tetangga, jadi Fell 16 memberikan 16 thread pada 8 core untuk dibandingkan; aturannya dijelaskan di [apakah vCPU khusus itu sebuah core atau thread](https://cobaltfell.com/id/vcpu-vs-core/ "Apakah vCPU dedicated itu core atau thread di VPS?").

*Fitur CPU dan perbandingan jumlah thread*

```bash
# vector instructions the VPS can use
grep -o -w -E 'avx2|avx512f|avx512_bf16|amx_tile' /proc/cpuinfo | sort -u

# prompt 512 tokens, generate 128, on 8 and then 16 threads
llama-bench -m qwen3-8b-q4_k_m.gguf -p 512 -n 128 -t 8,16
```

## Apa yang diubah vCPU khusus untuk inferensi?

**Generasi membuat setiap thread sibuk sepanjang jawaban, sehingga waktu CPU yang hilang langsung berubah menjadi token yang lebih lambat.** Pada vCPU bersama, burst dari tetangga memperpanjang setiap balasan sebagai steal time, dijelaskan di [apa itu CPU steal time dan cara memeriksanya di VPS](https://cobaltfell.com/id/cpu-steal-time/ "Apa itu CPU steal time, dan bagaimana cara memeriksanya di VPS saya?"), dan batas fair-use pada periode beban penuh yang panjang membatasi inferensi lebih dulu.

Di Cobaltfell: Beban penuh diperbolehkan selama pekerjaan Anda membutuhkannya: tanpa CPU credit, tanpa jendela burst, dan tanpa throttling setelah beberapa menit pada 100%. RAM pada paket Anda disisihkan untuk VPS Anda dan tidak di-overcommit, jadi model yang dimuat tidak pernah terdorong keluar dari RAM oleh host. Keluarga prosesornya adalah AMD EPYC 9004/9005 (Zen 4 / Zen 5). Menjalankan model pada 100% diperbolehkan; batasnya ditarik di tempat lain: Menambang cryptocurrency apa pun tidak diizinkan, pada paket apa pun dan dengan software apa pun. Pekerjaan CPU berat Anda sendiri, seperti build, encoding, inference, atau database, boleh berjalan pada beban penuh, dan node yang hanya memvalidasi blockchain bukanlah penambangan.

Host yang menjual vCPU khusus, dan harga satu core, dibandingkan di [berapa biaya VPS dengan CPU khusus per core pada November 2026](https://cobaltfell.com/id/dedicated-cpu-vps-price-index/ "Dedicated CPU VPS price per core, survey of 2 November 2026").

## Kapan GPU menjadi jawaban yang tepat untuk LLM?

**GPU adalah jawaban yang tepat ketika kecepatan per pengguna, jumlah pengguna, atau ukuran model lebih penting daripada biaya.** Uji Leaseweb menarik garis yang sama: CPU cocok untuk beban batch, asinkron, dan ringan, sementara GPU tetap unggul untuk pekerjaan yang sensitif terhadap latensi, konkurensi tinggi, dan model di atas 20B parameter tanpa kuantisasi. Tiga kasus lain mengarah ke GPU:

- **Model yang lebih besar dari RAM.** Fell 16 memiliki 32 GB; model 70B pada 43 GB tidak muat di paket mana pun.
- **Prompt panjang.** Retrieval dan document chat memberi ribuan token sebelum kata pertama, dan tahap prompt itulah tempat CPU menunggu paling lama.
- **Training dan fine-tuning.** Ini pekerjaan GPU dalam praktiknya.

Cobaltfell tidak menjual GPU. Untuk kasus-kasus itu, server GPU adalah sewaan yang tepat, dengan VPS CPU tetap dipakai untuk API, antrean, dan vector database di sekitar model. Encoding video memunculkan pertanyaan yang sama, dijawab di [bisakah VPS melakukan transcode video dengan FFmpeg tanpa GPU](https://cobaltfell.com/id/vps-for-video-transcoding/ "Bisakah saya transcoding video dengan FFmpeg di VPS vCPU dedicated tanpa GPU?").

## Pertanyaan lain apa yang sering ditanyakan orang tentang LLM di VPS tanpa GPU?

### Bisakah DeepSeek R1 berjalan di VPS tanpa GPU?

Versi distilasi, ya: deepseek-r1:8b (5,2 GB) di Fell 8, dan deepseek-r1:32b (20 GB) di Fell 16 dengan context pendek. deepseek-r1:671b versi lengkap adalah unduhan 404 GB dan tidak muat di paket VPS mana pun.

### Bisakah beberapa pengguna berbagi satu model di CPU?

Ya, dengan biaya memori per permintaan paralel. Ollama melayani satu permintaan per model pada satu waktu secara default (`OLLAMA_NUM_PARALLEL=1`), dan RAM yang dibutuhkan tumbuh seiring pengaturan itu dikali panjang context. Naikkan satu langkah setiap kali dan pantau `free -h`.

### Bagaimana cara mengukur seberapa cepat model berjalan di paket saya?

`llama-bench` melaporkan kecepatan prompt dan generasi dalam token per detik untuk sebuah file model dan jumlah thread. Alat ini mengulang setiap uji 5 kali secara default dan memberikan rata-rata beserta simpangan bakunya.

### Berapa banyak model yang bisa dimuat Ollama di CPU?

Hingga 3 secara default untuk inferensi CPU, masing-masing disimpan di memori selama 5 menit setelah penggunaan terakhirnya. Di Fell 2 dan Fell 4, satu model pada satu waktu mencegah model kedua mendorong model pertama ke swap.

### Apakah Cobaltfell menyediakan server GPU?

Tidak. Cobaltfell menjual VPS Linux dengan vCPU khusus pada prosesor AMD EPYC 9004/9005, mulai dari $10.49 per bulan pada termin 12 bulan, sebagaimana tercantum di [berapa biaya VPS dengan core khusus](https://cobaltfell.com/id/pricing/ "Berapa biaya VPS vCPU dedicated?").

## Sumber

1. [FAQ Ollama (panjang context, permintaan paralel, model yang dimuat, alamat bind)](https://docs.ollama.com/faq) — Ollama (checked 2026-11-02)
2. [Ollama di Linux (skrip instalasi, systemd)](https://docs.ollama.com/linux) — Ollama (checked 2026-11-02)
3. [Pustaka Ollama: qwen3](https://ollama.com/library/qwen3) — Ollama (checked 2026-11-02)
4. [Pustaka Ollama: gemma3](https://ollama.com/library/gemma3) — Ollama (checked 2026-11-02)
5. [Pustaka Ollama: llama3.2](https://ollama.com/library/llama3.2) — Ollama (checked 2026-11-02)
6. [Pustaka Ollama: deepseek-r1](https://ollama.com/library/deepseek-r1) — Ollama (checked 2026-11-02)
7. [README llama.cpp](https://github.com/ggml-org/llama.cpp/blob/master/README.md) — ggml-org (checked 2026-11-02)
8. [llama-bench](https://github.com/ggml-org/llama.cpp/tree/master/tools/llama-bench) — ggml-org (checked 2026-11-02)
9. [AMD EPYC LLM Inference Benchmark: Performa CPU untuk Model 7B-20B dan Beban Kerja TTS](https://blog.leaseweb.com/2026/04/05/amd-epyc-llm-inference-benchmark-cpu-vs-gpu/) — Leaseweb (published 2026-04-05, updated 2026-08-20, checked 2026-11-02)
10. [VPSLab Ryzen VPS (R9 Ultra, 48 GB)](https://vpslab.cloud/ryzen-vps) — VPSLab (checked 2026-11-02)

---

Cobaltfell: Cobaltfell adalah penyedia VPS dengan inti vCPU khusus, dibayar dengan kripto tanpa unggah ID dan dioperasikan oleh DomaineGoat LLC, perusahaan terdaftar di Panama. Setiap vCPU dipin hanya untuk server Anda, pada prosesor AMD EPYC 9004/9005 (Zen 4 / Zen 5) dengan penyimpanan NVMe, di Amsterdam (Belanda), Zurich (Swiss), dan Bucharest (Rumania). Pada masa sewa 12 bulan, setiap paket diberi harga minimal 25% di bawah paket dedicated-CPU pembanding yang disebutkan namanya, dipilih di antara 6 penyedia VPS kripto tanpa KYC dan dibaca pada 2 November 2026.