# Czy mogę uruchomić Ollama lub mały LLM na VPS z dedykowanymi vCPU bez GPU?

> Czy uruchomię Ollama na VPS bez GPU? Tak: skwantyzowane LLM do 32B na 2–16 vCPU, RAM na model i szybkości. Kryptowaluty, bez KYC.

- URL: https://cobaltfell.com/pl/vps-for-llm-without-gpu/
- Ostatnia aktualizacja: 2026-11-02
- Wydawca: Cobaltfell (https://cobaltfell.com)

Czy mogę uruchomić Ollama lub LLM na VPS bez GPU? Które skwantyzowane modele mieszczą się w RAM każdego planu, co opublikowane testy CPU mówią o szybkości, jak skonfigurować Ollama na VPS bez GPU i kiedy GPU jest właściwym narzędziem.

**Krótka odpowiedź — Czy mogę uruchomić Ollama lub LLM na VPS bez GPU?**

Tak: Ollama uruchamia LLM na VPS bez GPU, gdy skwantyzowany model mieści się w RAM. Na **Cobaltfell** Fell 8 (16 GB) obsługuje modele 8B do 14B, takie jak qwen3:8b, pobierany w rozmiarze 5,2 GB, a Fell 16 (32 GB) obsługuje modele 27B do 32B o rozmiarze 17 do 20 GB (biblioteka Ollama, sprawdzona 2 listopada 2026). GPU wygrywa przy wielu użytkownikach naraz, długich promptach lub modelach większych niż RAM.

## Które modele mieszczą się w RAM każdego planu?

**Na CPU to RAM decyduje, który model się uruchomi, a vCPU decydują, jak szybko będzie działał.** Cały model żyje w pamięci systemowej, a rozmiar pobierania pokazywany przez Ollama to dobre pierwsze oszacowanie zajmowanej pamięci. Dochodzi do tego kontekst, system i wszystko inne na VPS: dokumentacja Ollama mówi, że wymagany RAM rośnie wraz z `OLLAMA_NUM_PARALLEL` razy `OLLAMA_CONTEXT_LENGTH`, a domyślny kontekst to 4096 tokenów.

*Rozmiary pobierania domyślnych tagów ze stron biblioteki Ollama, odczytane 2 listopada 2026. „Z zapasem” utrzymuje model na poziomie nie większym niż około 60% RAM planu, to reguła praktyczna, a nie pomiar. Poza zasięgiem w każdym planie: deepseek-r1:70b (43 GB) i deepseek-r1:671b (404 GB).*

| Plan | RAM | Mieści się z zapasem | Mieści się przy krótkim kontekście i niewiele więcej działającym |
| --- | --- | --- | --- |
| Fell 2 | 4 GB | gemma3:1b (806 MB), llama3.2:1b (1,3 GB), qwen3:1.7b (1,4 GB), llama3.2:3b (2,0 GB) | qwen3:4b (2,5 GB) |
| Fell 4 | 8 GB | qwen3:4b (2,5 GB), gemma3:4b (3,4 GB), deepseek-r1:7b (4,7 GB) | qwen3:8b i deepseek-r1:8b (5,2 GB) |
| Fell 8 | 16 GB | qwen3:8b (5,2 GB), gemma3:12b (8,2 GB), deepseek-r1:14b (9,0 GB), qwen3:14b (9,3 GB) | dwa małe modele załadowane obok siebie |
| Fell 16 | 32 GB | gemma3:27b (17 GB), qwen3:30b (19 GB) | qwen3:32b i deepseek-r1:32b (20 GB) |

**Według przeglądu Cobaltfell z 2 listopada 2026, 4 z 6 hostów, które sprzedają dedykowane vCPU na procesorze z 2022 roku lub nowszym bez weryfikacji tożsamości, oferowały plan z 32 GB RAM lub więcej; najtańszy był R9 Ultra od VPSLab, 12 vCores i 48 GB, za 69,99 € (78,19 $) miesięcznie.**

## Jak szybka jest inferencja LLM na CPU?

**Inferencja na CPU jest wolniejsza niż na GPU o margines wyznaczany przez wątki, przepustowość pamięci i kwantyzację.** Cobaltfell nie publikuje własnych danych o tokenach na sekundę: Nasze własne wyniki YABS i Geekbench 6, wraz z mierzonym przez nas steal time, zostaną opublikowane z datą, gdy tylko nasza pierwsza maszyna testowa zostanie dostarczona. Do tego czasu nie podajemy żadnych własnych wartości wydajności.

Najbardziej użyteczna publiczna liczba to test opublikowany przez Leaseweb 5 kwietnia 2026 (strona zaktualizowana 20 sierpnia 2026). Na serwerze z dwoma procesorami AMD EPYC 9334 (Zen 4) działającymi na 24 wątkach test wygenerował **27,8 tokena na sekundę** z modelem 8B przy kwantyzacji 4-bitowej (DeepSeek-R1-0528-Qwen3-8B, Q4_K_M) oraz **8,1 tokena na sekundę** z tym samym modelem przy FP16. GPU NVIDIA L4 osiągnął 16,7 tokena na sekundę na tym modelu przy FP16. Czas do pierwszego tokena przy Q4 wynosił od 3,6 do 4,8 sekundy w testowanych modelach.

*Dane opublikowane przez Leaseweb (5 kwietnia 2026, aktualizacja 20 sierpnia 2026), odczytane 2 listopada 2026. Serwer bare metal z dwoma gniazdami, nie VPS.*

| Sprzęt w teście Leaseweb | Model i precyzja | Szybkość generowania |
| --- | --- | --- |
| 2 × AMD EPYC 9334, 24 wątki | DeepSeek-R1-0528-Qwen3-8B, Q4_K_M | 27,8 tokena/s |
| 2 × AMD EPYC 9334, 24 wątki | DeepSeek-R1-0528-Qwen3-8B, FP16 | 8,1 tokena/s |
| NVIDIA L4 | DeepSeek-R1-0528-Qwen3-8B, FP16 | 16,7 tokena/s |

Te liczby pochodzą z serwera bare metal z dwoma gniazdami i 24 wątkami. VPS z 8 lub 16 vCPU ma mniej wątków i udział jednego gniazda, więc jego wynik jest niższy; o ile – tego nie zmierzono.

Jedna lekcja przenosi się bezpośrednio: ten sam model działał ponad trzy razy szybciej przy Q4 niż przy FP16 na tym samym CPU. **Na CPU mniejszy plik skwantyzowany to pierwsze przyspieszenie, które warto wypróbować.**

## Jak uruchomić Ollama na VPS z samym CPU?

**Zainstaluj Ollama oficjalnym skryptem, pobierz model, który mieści się w planie, i potwierdź, że działa w całości na CPU.** `ollama ps` pokazuje, gdzie znajduje się załadowany model: jego kolumna `PROCESSOR` pokazuje `100% CPU` na VPS. Ollama nasłuchuje domyślnie na 127.0.0.1, port 11434; dotrzyj do niej przez tunel SSH albo postaw przed nią uwierzytelniający reverse proxy, zanim zmienisz `OLLAMA_HOST`.

*Zainstaluj Ollama, uruchom model, ustaw kontekst i równoległość*

```bash
# official install script for Linux
curl -fsSL https://ollama.com/install.sh | sh

# pull and run a model that fits the plan (here about 2.5 GB)
ollama run qwen3:4b "Summarize what a dedicated vCPU is in one sentence."

# where the model is loaded: expect 100% CPU
ollama ps

# service settings: add these two lines under [Service]
sudo systemctl edit ollama
#   Environment="OLLAMA_CONTEXT_LENGTH=4096"
#   Environment="OLLAMA_NUM_PARALLEL=1"
sudo systemctl daemon-reload
sudo systemctl restart ollama
```

## Czy powinienem używać llama.cpp bezpośrednio?

**llama.cpp to właściwy wybór, gdy liczą się kwantyzacja, liczba wątków i flagi serwera.** W jego README wymieniono obsługę AVX, AVX2, AVX512 i AMX na x86 oraz kwantyzację całkowitą od 1,5 do 8 bitów, która zmniejsza zużycie pamięci i przyspiesza wnioskowanie. Dostarcza `llama-bench`, narzędzie do testowania wydajności, którego domyślne ustawienia przetwarzają prompt 512 tokenów i generują 128 tokenów, a w jednym przebiegu próbuje kilku liczby wątków.

Dwie kontrole zajmują minutę na dowolnym VPS: jakie instrukcje wektorowe udostępnia procesor oraz czy model działa szybciej na tylu wątkach, ile jest vCPU, czy na jednym wątku na rdzeń fizyczny. W Cobaltfell vCPU to jeden wątek sprzętowy procesora hosta. Twoje są przypięte jeden do jednego do Twojego VPS i nigdy nie są pożyczane innemu klientowi, a dwa wątki jednego fizycznego rdzenia trzymają się razem, więc każde 2 vCPU tworzą jeden pełny rdzeń, którego nie dzieli żaden sąsiad, więc Fell 16 daje 16 wątków na 8 rdzeniach do porównania; reguła jest wyjaśniona w [is a dedicated vCPU a core or a thread](https://cobaltfell.com/pl/vcpu-vs-core/ "Czy dedykowany vCPU to rdzeń czy wątek na VPS?").

*Cechy CPU i porównanie liczby wątków*

```bash
# vector instructions the VPS can use
grep -o -w -E 'avx2|avx512f|avx512_bf16|amx_tile' /proc/cpuinfo | sort -u

# prompt 512 tokens, generate 128, on 8 and then 16 threads
llama-bench -m qwen3-8b-q4_k_m.gguf -p 512 -n 128 -t 8,16
```

## Co dają dedykowane vCPU przy wnioskowaniu?

**Generowanie zajmuje każdy wątek przez całą długość odpowiedzi, więc utracony czas CPU przekłada się bezpośrednio na wolniejsze tokeny.** Na współdzielonym vCPU skok sąsiada wydłuża każdą odpowiedź jako steal time, wyjaśniony w [what CPU steal time is and how to check it on a VPS](https://cobaltfell.com/pl/cpu-steal-time/ "Czym jest CPU steal time i jak sprawdzić go na swoim VPS?"), a limity fair use przy długich okresach pełnego obciążenia dławią wnioskowanie w pierwszej kolejności.

W Cobaltfell: Pełne obciążenie jest dozwolone tak długo, jak wymaga tego Twoja praca: bez kredytów CPU, bez okna burst i bez throttlingu po kilku minutach przy 100%. RAM Twojego planu jest zarezerwowany dla Twojego VPS i nie jest overcommitowany, więc załadowany model nigdy nie jest wypychany z RAM przez hosta. Rodzina procesorów to AMD EPYC 9004/9005 (Zen 4 / Zen 5). Uruchamianie modelu na 100% jest dozwolone; granica przebiega gdzie indziej: Wydobywanie jakiejkolwiek kryptowaluty jest niedozwolone, w żadnym planie i przy użyciu żadnego oprogramowania. Twoja własna ciężka praca CPU, taka jak buildy, kodowanie, inferencja czy bazy danych, może działać przy pełnym obciążeniu, a node, który jedynie waliduje blockchain, nie jest wydobywaniem.

Hosty sprzedające dedykowane vCPU oraz cenę jednego rdzenia porównano w [what a dedicated CPU VPS costs per core in November 2026](https://cobaltfell.com/pl/dedicated-cpu-vps-price-index/ "Dedicated CPU VPS price per core, survey of 2 November 2026").

## Kiedy GPU jest właściwą odpowiedzią dla LLM?

**GPU jest właściwą odpowiedzią, gdy szybkość na użytkownika, liczba użytkowników lub rozmiar modelu liczą się bardziej niż koszt.** Test Leaseweb wyznacza tę samą granicę: CPU pasuje do obciążeń wsadowych, asynchronicznych i lekkich, podczas gdy GPU pozostaje z przodu w pracy krytycznej dla opóźnień, przy wysokiej współbieżności i w modelach powyżej 20B parametrów bez kwantyzacji. Trzy kolejne przypadki wskazują na GPU:

- **Modele większe niż RAM.** Fell 16 ma 32 GB; model 70B przy 43 GB nie mieści się w żadnym planie.
- **Długie prompty.** Retrieval i czat z dokumentami podają tysiące tokenów przed pierwszym słowem, a to etap promptu, na którym CPU czeka najdłużej.
- **Trenowanie i fine-tuning.** W praktyce to zadania dla GPU.

Cobaltfell nie sprzedaje GPU. W tych przypadkach właściwym wynajmem jest serwer GPU, a VPS z CPU zostaje dla API, kolejki i bazy wektorowej wokół modelu. Kodowanie wideo rodzi to samo pytanie, na które odpowiadamy w [can a VPS transcode video with FFmpeg without a GPU](https://cobaltfell.com/pl/vps-for-video-transcoding/ "Czy mogę transkodować wideo za pomocą FFmpeg na VPS z dedykowanym vCPU bez GPU?").

## Jakie inne pytania ludzie zadają o LLM na VPS bez GPU?

### Czy DeepSeek R1 działa na VPS bez GPU?

Wersje destylowane – tak: deepseek-r1:8b (5,2 GB) na Fell 8 i deepseek-r1:32b (20 GB) na Fell 16 z krótkim kontekstem. Pełny deepseek-r1:671b to pobranie 404 GB i nie mieści się w żadnym planie VPS.

### Czy kilku użytkowników może współdzielić jeden model na CPU?

Tak, kosztem pamięci na każde równoległe zapytanie. Ollama domyślnie obsługuje jedno zapytanie na model naraz (`OLLAMA_NUM_PARALLEL=1`), a potrzebny RAM rośnie wraz z tym ustawieniem pomnożonym przez długość kontekstu. Zwiększaj je po jednym kroku i obserwuj `free -h`.

### Jak zmierzyć, jak szybko model działa na moim planie?

`llama-bench` podaje szybkość promptu i generowania w tokenach na sekundę dla pliku modelu i liczby wątków. Domyślnie powtarza każdy test 5 razy i podaje średnią wraz z odchyleniem standardowym.

### Ile modeli Ollama może trzymać załadowanych na CPU?

Domyślnie do 3 przy wnioskowaniu na CPU, każdy trzymany w pamięci przez 5 minut po ostatnim użyciu. Na Fell 2 i Fell 4 jeden model naraz nie pozwala drugiemu wypchnąć pierwszego do swap.

### Czy Cobaltfell oferuje serwery GPU?

Nie. Cobaltfell sprzedaje Linux VPS z dedykowanymi vCPU na procesorach AMD EPYC 9004/9005, od $10.49 miesięcznie przy umowie 12-miesięcznej, zgodnie z [how much a dedicated-core VPS costs](https://cobaltfell.com/pl/pricing/ "Ile kosztuje VPS z dedykowanym vCPU?").

## Źródła

1. [Ollama FAQ (długość kontekstu, równoległe zapytania, załadowane modele, adres bindowania)](https://docs.ollama.com/faq) — Ollama (checked 2026-11-02)
2. [Ollama na Linux (skrypt instalacyjny, systemd)](https://docs.ollama.com/linux) — Ollama (checked 2026-11-02)
3. [Biblioteka Ollama: qwen3](https://ollama.com/library/qwen3) — Ollama (checked 2026-11-02)
4. [Biblioteka Ollama: gemma3](https://ollama.com/library/gemma3) — Ollama (checked 2026-11-02)
5. [Biblioteka Ollama: llama3.2](https://ollama.com/library/llama3.2) — Ollama (checked 2026-11-02)
6. [Biblioteka Ollama: deepseek-r1](https://ollama.com/library/deepseek-r1) — Ollama (checked 2026-11-02)
7. [llama.cpp README](https://github.com/ggml-org/llama.cpp/blob/master/README.md) — ggml-org (checked 2026-11-02)
8. [llama-bench](https://github.com/ggml-org/llama.cpp/tree/master/tools/llama-bench) — ggml-org (checked 2026-11-02)
9. [AMD EPYC LLM Inference Benchmark: CPU Performance for 7B-20B Models and TTS Workloads](https://blog.leaseweb.com/2026/04/05/amd-epyc-llm-inference-benchmark-cpu-vs-gpu/) — Leaseweb (published 2026-04-05, updated 2026-08-20, checked 2026-11-02)
10. [VPSLab Ryzen VPS (R9 Ultra, 48 GB)](https://vpslab.cloud/ryzen-vps) — VPSLab (checked 2026-11-02)

---

Cobaltfell: Cobaltfell to dostawca VPS z dedykowanymi rdzeniami vCPU, płatny kryptowalutą bez przesyłania dokumentów tożsamości, prowadzony przez DomaineGoat LLC, spółkę zarejestrowaną w Panamie. Każdy vCPU jest przypisany wyłącznie do Twojego serwera, na procesorach AMD EPYC 9004/9005 (Zen 4 / Zen 5) z pamięcią NVMe, w Amsterdamie (Holandia), Zurychu (Szwajcaria) i Bukareszcie (Rumunia). Przy okresie 12-miesięcznym każdy plan jest wyceniony co najmniej 25% poniżej wskazanego porównywalnego planu z dedykowanym CPU, wybranego spośród 6 hostów VPS przyjmujących kryptowaluty bez KYC, odczytanych 2 listopada 2026.