# Kan ik Ollama of een klein LLM draaien op een VPS met toegewijde vCPU zonder GPU? > Kan ik Ollama op een VPS draaien zonder GPU? Ja: gequantiseerde LLM's tot ongeveer 32B op 2 tot 16 vCPU, RAM per model en snelheid. Crypto, zonder KYC. - URL: https://cobaltfell.com/nl/vps-for-llm-without-gpu/ - Laatst bijgewerkt: 2026-11-02 - Uitgever: Cobaltfell (https://cobaltfell.com) Kan ik Ollama of een LLM op een VPS draaien zonder GPU? Welke gequantiseerde modellen passen in het RAM van elk plan, wat gepubliceerde CPU-tests over snelheid laten zien, hoe je Ollama opzet op een VPS met alleen CPU, en wanneer een GPU het juiste gereedschap is. **Snel antwoord — Kan ik Ollama of een LLM op een VPS draaien zonder GPU?** Ja: Ollama draait een LLM op een VPS zonder GPU wanneer het gequantiseerde model in het RAM past. Op **Cobaltfell** draait Fell 8 (16 GB) modellen van 8B tot 14B zoals qwen3:8b, een download van 5,2 GB, en Fell 16 (32 GB) draait modellen van 27B tot 32B van 17 tot 20 GB (Ollama-bibliotheek, gecontroleerd op 2 november 2026). Een GPU wint bij veel gebruikers tegelijk, lange prompts of modellen groter dan het RAM. ## Welke modellen passen in het RAM van elk plan? **Op een CPU bepaalt het RAM welk model draait en bepalen de vCPU hoe snel het draait.** Het hele model staat in het systeemgeheugen, en de downloadgrootte die Ollama toont is een goede eerste schatting van het geheugen dat het inneemt. Context, het systeem en al het andere op de VPS komen daar bovenop: de documentatie van Ollama zegt dat het benodigde RAM groeit met `OLLAMA_NUM_PARALLEL` keer `OLLAMA_CONTEXT_LENGTH`, en de standaardcontext is 4.096 tokens. *Downloadgroottes van de standaardtags op de Ollama-bibliotheekpagina's, gelezen op 2 november 2026. "Met ruimte over" houdt het model op of onder ongeveer 60% van het RAM van het plan, een vuistregel en geen meting. Buiten bereik op elk plan: deepseek-r1:70b (43 GB) en deepseek-r1:671b (404 GB).* | Plan | RAM | Past met ruimte over | Past met een korte context en weinig anders actief | | --- | --- | --- | --- | | Fell 2 | 4 GB | gemma3:1b (806 MB), llama3.2:1b (1,3 GB), qwen3:1.7b (1,4 GB), llama3.2:3b (2,0 GB) | qwen3:4b (2,5 GB) | | Fell 4 | 8 GB | qwen3:4b (2,5 GB), gemma3:4b (3,4 GB), deepseek-r1:7b (4,7 GB) | qwen3:8b en deepseek-r1:8b (5,2 GB) | | Fell 8 | 16 GB | qwen3:8b (5,2 GB), gemma3:12b (8,2 GB), deepseek-r1:14b (9,0 GB), qwen3:14b (9,3 GB) | twee kleine modellen naast elkaar geladen | | Fell 16 | 32 GB | gemma3:27b (17 GB), qwen3:30b (19 GB) | qwen3:32b en deepseek-r1:32b (20 GB) | **Volgens Cobaltfells onderzoek van 2 november 2026 vermeldden 4 van de 6 hosts die toegewijde vCPU op een processor uit 2022 of nieuwer verkopen zonder ID-controle een plan met 32 GB RAM of meer; de goedkoopste was VPSLab's R9 Ultra, 12 vCores en 48 GB, voor €69,99 ($78,19) per maand.** ## Hoe snel is LLM-inferentie op een CPU? **CPU-inferentie is langzamer dan een GPU, met een marge die wordt bepaald door threads, geheugenbandbreedte en kwantisatie.** Cobaltfell publiceert geen eigen tokens-per-secondecijfer: Onze eigen YABS- en Geekbench 6-resultaten, samen met de steal time die we meten, worden met hun datum gepubliceerd zodra onze eerste testmachine is geleverd. Tot dan noemen we geen enkel prestatiecijfer van onszelf. Het nuttigste openbare cijfer is een test die Leaseweb op 5 april 2026 publiceerde (pagina bijgewerkt op 20 augustus 2026). Op een server met twee AMD EPYC 9334-processors (Zen 4) met 24 threads genereerde de test **27,8 tokens per seconde** met een 8B-model bij 4-bit-kwantisatie (DeepSeek-R1-0528-Qwen3-8B, Q4_K_M), en **8,1 tokens per seconde** met hetzelfde model bij FP16. Een NVIDIA L4-GPU haalde 16,7 tokens per seconde op dat model bij FP16. De tijd tot het eerste token bij Q4 lag tussen 3,6 en 4,8 seconden voor de geteste modellen. *Cijfers zoals gepubliceerd door Leaseweb (5 april 2026, bijgewerkt 20 augustus 2026), gelezen op 2 november 2026. Bare metal met twee sockets, geen VPS.* | Hardware in de Leaseweb-test | Model en precisie | Generatiesnelheid | | --- | --- | --- | | 2 × AMD EPYC 9334, 24 threads | DeepSeek-R1-0528-Qwen3-8B, Q4_K_M | 27,8 tokens/s | | 2 × AMD EPYC 9334, 24 threads | DeepSeek-R1-0528-Qwen3-8B, FP16 | 8,1 tokens/s | | NVIDIA L4 | DeepSeek-R1-0528-Qwen3-8B, FP16 | 16,7 tokens/s | Die cijfers komen van bare metal met twee sockets en 24 threads. Een VPS met 8 of 16 vCPU heeft minder threads en een deel van één socket, dus het cijfer ligt lager; hoeveel lager is niet gemeten. Eén les gaat direct op: hetzelfde model draaide meer dan drie keer zo snel op Q4 als op FP16 op dezelfde CPU. **Op een CPU is een kleiner gequantiseerd bestand de eerste snelheidswinst die je moet proberen.** ## Hoe draai ik Ollama op een CPU-only VPS? **Installeer Ollama met het officiële script, pull een model dat binnen het plan past en controleer dat het volledig op de CPU draait.** `ollama ps` laat zien waar een geladen model staat: de kolom `PROCESSOR` leest `100% CPU` op een VPS. Ollama luistert standaard op 127.0.0.1, poort 11434; bereik het via een SSH-tunnel, of zet een authenticerende reverse proxy ervoor voordat je `OLLAMA_HOST` wijzigt. *Ollama installeren, een model draaien, context en parallelisme instellen* ```bash # official install script for Linux curl -fsSL https://ollama.com/install.sh | sh # pull and run a model that fits the plan (here about 2.5 GB) ollama run qwen3:4b "Summarize what a dedicated vCPU is in one sentence." # where the model is loaded: expect 100% CPU ollama ps # service settings: add these two lines under [Service] sudo systemctl edit ollama # Environment="OLLAMA_CONTEXT_LENGTH=4096" # Environment="OLLAMA_NUM_PARALLEL=1" sudo systemctl daemon-reload sudo systemctl restart ollama ``` ## Moet ik llama.cpp rechtstreeks gebruiken? **llama.cpp is de keuze wanneer de quantisatie, het aantal threads en de server-flags ertoe doen.** De README vermeldt ondersteuning voor AVX, AVX2, AVX512 en AMX op x86, en integer-quantisatie van 1,5-bit tot 8-bit om het geheugengebruik te verlagen en inference te versnellen. Het wordt geleverd met `llama-bench`, een tool voor prestatietests waarvan de standaardinstellingen een prompt van 512 tokens verwerken en 128 tokens genereren, en die in één run meerdere threadaantallen probeert. Twee controles kosten een minuut op elke VPS: welke vectorinstructies de processor biedt, en of het model sneller draait op zoveel threads als vCPU of op één thread per fysieke core. Bij Cobaltfell geldt Een vCPU is één hardwarethread van de hostprocessor. Die van jou zijn één op één vastgezet aan je VPS en worden nooit aan een andere klant uitgeleend, en de twee threads van een fysieke core blijven bij elkaar, dus elke 2 vCPU vormen één hele core die geen buur deelt, dus Fell 16 geeft 16 threads op 8 cores om te vergelijken; de regel wordt uitgelegd in [is een dedicated vCPU een core of een thread](https://cobaltfell.com/nl/vcpu-vs-core/ "Is een dedicated vCPU een core of een thread op een VPS?"). *CPU-kenmerken en een vergelijking van het aantal threads* ```bash # vector instructions the VPS can use grep -o -w -E 'avx2|avx512f|avx512_bf16|amx_tile' /proc/cpuinfo | sort -u # prompt 512 tokens, generate 128, on 8 and then 16 threads llama-bench -m qwen3-8b-q4_k_m.gguf -p 512 -n 128 -t 8,16 ``` ## Wat veranderen dedicated vCPU voor inference? **Generatie houdt elke thread bezet gedurende de hele lengte van een antwoord, dus verloren CPU-tijd vertaalt zich direct in tragere tokens.** Op een gedeelde vCPU rekt een burst van een buur elke reactie op als steal time, uitgelegd in [wat CPU steal time is en hoe je het controleert op een VPS](https://cobaltfell.com/nl/cpu-steal-time/ "Wat is CPU steal time, en hoe controleer ik het op mijn VPS?"), en fair-use-limieten bij lange periodes op volledige belasting knijpen inference als eerste af. Bij Cobaltfell: Volledige belasting is toegestaan zolang je werk het nodig heeft: geen CPU-credits, geen burst-venster en geen throttling na een paar minuten op 100%. Het RAM van je plan wordt voor je VPS gereserveerd en niet overcommitted, dus een geladen model wordt nooit door de host uit het RAM geduwd. De processorfamilie is AMD EPYC 9004/9005 (Zen 4 / Zen 5). Een model op 100% draaien is toegestaan; de grens ligt elders: Mining van welke cryptocurrency dan ook is niet toegestaan, op geen enkel plan en met geen enkele software. Je eigen zware CPU-werk, zoals builds, encoding, inference of databases, mag op volle belasting draaien, en een node die alleen een blockchain valideert is geen mining. Hosts die dedicated vCPU verkopen, en de prijs van één core, worden vergeleken in [wat een dedicated CPU VPS per core kost in november 2026](https://cobaltfell.com/nl/dedicated-cpu-vps-price-index/ "Dedicated CPU VPS price per core, survey of 2 November 2026"). ## Wanneer is een GPU het juiste antwoord voor een LLM? **Een GPU is het juiste antwoord wanneer snelheid per gebruiker, het aantal gebruikers of de grootte van het model belangrijker is dan kosten.** De Leaseweb-test trekt dezelfde grens: CPU past bij batch-, asynchrone en lichte workloads, terwijl GPU's voorop blijven voor latentiekritisch werk, hoge gelijktijdigheid en modellen boven 20B parameters zonder quantisatie. Drie gevallen wijzen nog op een GPU: - **Modellen groter dan het RAM.** Fell 16 heeft 32 GB; een 70B-model op 43 GB past in geen enkel plan. - **Lange prompts.** Retrieval en documentchat voeren duizenden tokens aan voor het eerste woord, en in die promptfase wacht een CPU het langst. - **Training en fine-tuning.** Dat zijn in de praktijk GPU-taken. Cobaltfell verkoopt geen GPU. Voor die gevallen is een GPU-server de juiste huur, met een CPU VPS voor de API, de queue en de vectordatabase rond het model. Video-encoding roept dezelfde vraag op, beantwoord in [kan een VPS video transcoderen met FFmpeg zonder GPU](https://cobaltfell.com/nl/vps-for-video-transcoding/ "Kan ik video transcoderen met FFmpeg op een VPS met toegewijde vCPU zonder GPU?"). ## Welke andere vragen stellen mensen over LLM's op een VPS zonder GPU? ### Kan DeepSeek R1 draaien op een VPS zonder GPU? De gedistilleerde versies wel: deepseek-r1:8b (5,2 GB) op Fell 8, en deepseek-r1:32b (20 GB) op Fell 16 met een korte context. De volledige deepseek-r1:671b is een download van 404 GB en past in geen enkel VPS-plan. ### Kunnen meerdere gebruikers één model delen op een CPU? Ja, tegen een geheugenkost per parallel verzoek. Ollama bedient standaard één verzoek per model tegelijk (`OLLAMA_NUM_PARALLEL=1`), en het benodigde RAM groeit met die instelling maal de contextlengte. Verhoog het stap voor stap en houd `free -h` in het oog. ### Hoe meet ik hoe snel een model draait op mijn plan? `llama-bench` rapporteert prompt- en generatiesnelheid in tokens per seconde voor een modelbestand en een aantal threads. Het herhaalt elke test standaard 5 keer en geeft het gemiddelde met de standaardafwijking. ### Hoeveel modellen kan Ollama geladen houden op een CPU? Standaard tot 3 voor CPU-inference, elk 5 minuten in het geheugen na het laatste gebruik. Op Fell 2 en Fell 4 voorkomt één model tegelijk dat het tweede het eerste in swap duwt. ### Biedt Cobaltfell GPU-servers aan? Nee. Cobaltfell verkoopt Linux VPS met dedicated vCPU op AMD EPYC 9004/9005-processors, vanaf $10.49 per maand bij een termijn van 12 maanden, zoals vermeld onder [hoeveel een VPS met dedicated cores kost](https://cobaltfell.com/nl/pricing/ "Hoeveel kost een dedicated-vCPU VPS?"). ## Bronnen 1. [Ollama FAQ (contextlengte, parallelle verzoeken, geladen modellen, bindadres)](https://docs.ollama.com/faq) — Ollama (checked 2026-11-02) 2. [Ollama op Linux (installatiescript, systemd)](https://docs.ollama.com/linux) — Ollama (checked 2026-11-02) 3. [Ollama-bibliotheek: qwen3](https://ollama.com/library/qwen3) — Ollama (checked 2026-11-02) 4. [Ollama-bibliotheek: gemma3](https://ollama.com/library/gemma3) — Ollama (checked 2026-11-02) 5. [Ollama-bibliotheek: llama3.2](https://ollama.com/library/llama3.2) — Ollama (checked 2026-11-02) 6. [Ollama-bibliotheek: deepseek-r1](https://ollama.com/library/deepseek-r1) — Ollama (checked 2026-11-02) 7. [llama.cpp README](https://github.com/ggml-org/llama.cpp/blob/master/README.md) — ggml-org (checked 2026-11-02) 8. [llama-bench](https://github.com/ggml-org/llama.cpp/tree/master/tools/llama-bench) — ggml-org (checked 2026-11-02) 9. [AMD EPYC LLM Inference Benchmark: CPU Performance for 7B-20B Models and TTS Workloads](https://blog.leaseweb.com/2026/04/05/amd-epyc-llm-inference-benchmark-cpu-vs-gpu/) — Leaseweb (published 2026-04-05, updated 2026-08-20, checked 2026-11-02) 10. [VPSLab Ryzen VPS (R9 Ultra, 48 GB)](https://vpslab.cloud/ryzen-vps) — VPSLab (checked 2026-11-02) --- Cobaltfell: Cobaltfell is een VPS-provider met toegewijde vCPU-cores, te betalen met crypto zonder ID-upload en beheerd door DomaineGoat LLC, een in Panama geregistreerd bedrijf. Elke vCPU is uitsluitend aan jouw server toegewezen, op AMD EPYC 9004/9005-processors (Zen 4 / Zen 5) met NVMe-opslag, in Amsterdam (Nederland), Zürich (Zwitserland) en Boekarest (Roemenië). Bij een termijn van 12 maanden is elk plan minstens 25% goedkoper dan een met naam genoemd vergelijkbaar dedicated-CPU-plan, gekozen uit 6 no-KYC crypto-VPS-hosts en gelezen op 2 november 2026.