# Чи можу я запустити Ollama або невелику LLM на VPS із виділеним vCPU без GPU?

> Чи можу я запустити Ollama на VPS без GPU? Так: квантовані LLM до близько 32B на 2–16 виділених vCPU, дані про RAM на модель і швидкість. Крипта, без KYC.

- URL: https://cobaltfell.com/uk/vps-for-llm-without-gpu/
- Останнє оновлення: 2026-11-02
- Видавець: Cobaltfell (https://cobaltfell.com)

Чи можу я запустити Ollama або LLM на VPS без GPU? Які квантовані моделі вміщуються в RAM кожного плану, що показують опубліковані CPU-тести про швидкість, як налаштувати Ollama на VPS лише з CPU і коли GPU — правильний інструмент.

**Коротка відповідь — Чи можу я запустити Ollama або LLM на VPS без GPU?**

Так: Ollama запускає LLM на VPS без GPU, коли квантована модель вміщується в RAM. На **Cobaltfell** Fell 8 (16 GB) запускає моделі 8B–14B, як-от qwen3:8b (завантаження 5,2 GB), а Fell 16 (32 GB) запускає моделі 27B–32B обсягом 17–20 GB (бібліотека Ollama, перевірено 2 листопада 2026). GPU виграє, коли багато користувачів одночасно, довгі промпти або моделі більші за RAM.

## Які моделі вміщуються в RAM кожного плану?

**На CPU саме RAM визначає, яка модель запуститься, а vCPU — наскільки швидко вона працює.** Уся модель живе в системній пам'яті, і розмір завантаження, який показує Ollama, — хороша перша оцінка потрібної пам'яті. Контекст, система й будь-що інше на VPS додаються зверху: документація Ollama каже, що потрібна RAM зростає з `OLLAMA_NUM_PARALLEL` разів `OLLAMA_CONTEXT_LENGTH`, а типовий контекст — 4 096 токенів.

*Розміри завантаження типових тегів на сторінках бібліотеки Ollama, прочитано 2 листопада 2026. «З запасом» тримає модель на рівні або під приблизно 60% RAM плану — це правило великого пальця, а не вимірювання. Поза межами на кожному плані: deepseek-r1:70b (43 GB) і deepseek-r1:671b (404 GB).*

| План | RAM | Вміщується з запасом | Вміщується з коротким контекстом і майже нічим іншим |
| --- | --- | --- | --- |
| Fell 2 | 4 GB | gemma3:1b (806 MB), llama3.2:1b (1.3 GB), qwen3:1.7b (1.4 GB), llama3.2:3b (2.0 GB) | qwen3:4b (2.5 GB) |
| Fell 4 | 8 GB | qwen3:4b (2.5 GB), gemma3:4b (3.4 GB), deepseek-r1:7b (4.7 GB) | qwen3:8b і deepseek-r1:8b (5.2 GB) |
| Fell 8 | 16 GB | qwen3:8b (5.2 GB), gemma3:12b (8.2 GB), deepseek-r1:14b (9.0 GB), qwen3:14b (9.3 GB) | дві малі моделі, завантажені поруч |
| Fell 16 | 32 GB | gemma3:27b (17 GB), qwen3:30b (19 GB) | qwen3:32b і deepseek-r1:32b (20 GB) |

**За оглядом Cobaltfell від 2 листопада 2026, 4 з 6 хостів, які продають виділений vCPU на процесорі 2022 року або новішому без перевірки ID, мали план із 32 GB RAM або більше; найдешевший — VPSLab's R9 Ultra, 12 vCores і 48 GB, за €69.99 ($78.19) на місяць.**

## Наскільки швидкий inference LLM на CPU?

**CPU-інференс повільніший за GPU на величину, яку визначають потоки, пропускна здатність пам'яті та квантизація.** Cobaltfell не публікує власних цифр токенів за секунду: Наші власні результати YABS і Geekbench 6 разом із виміряним нами steal time будуть опубліковані із зазначенням дати, щойно буде доставлено нашу першу тестову машину. До того часу ми не наводимо жодного власного показника продуктивності.

Найкорисніша публічна цифра — тест, який Leaseweb опублікував 5 квітня 2026 (сторінку оновлено 20 серпня 2026). На сервері з двома процесорами AMD EPYC 9334 (Zen 4) із 24 потоками тест генерував **27.8 токенів за секунду** з моделлю 8B у 4-бітній квантизації (DeepSeek-R1-0528-Qwen3-8B, Q4_K_M) і **8.1 токенів за секунду** з тією самою моделлю у FP16. GPU NVIDIA L4 досяг 16.7 токенів за секунду на цій моделі у FP16. Час до першого токена на Q4 коливався від 3.6 до 4.8 секунди серед протестованих моделей.

*Дані, опубліковані Leaseweb (5 квітня 2026, оновлено 20 серпня 2026), прочитано 2 листопада 2026. Двопроцесорний bare metal, не VPS.*

| Обладнання в тесті Leaseweb | Модель і точність | Швидкість генерації |
| --- | --- | --- |
| 2 × AMD EPYC 9334, 24 потоки | DeepSeek-R1-0528-Qwen3-8B, Q4_K_M | 27.8 tokens/s |
| 2 × AMD EPYC 9334, 24 потоки | DeepSeek-R1-0528-Qwen3-8B, FP16 | 8.1 tokens/s |
| NVIDIA L4 | DeepSeek-R1-0528-Qwen3-8B, FP16 | 16.7 tokens/s |

Ці цифри отримано на двопроцесорному bare metal з 24 потоками. VPS з 8 або 16 vCPU має менше потоків і лише частку одного сокета, тому його показник нижчий; наскільки саме — не виміряно.

Один висновок переноситься напряму: та сама модель працювала більш ніж утричі швидше в Q4, ніж у FP16, на тому самому CPU. **На CPU менший квантований файл — це перше прискорення, яке варто спробувати.**

## Як запустити Ollama на VPS лише з CPU?

**Встановіть Ollama офіційним скриптом, завантажте модель, що вміщується в план, і переконайтеся, що вона працює повністю на CPU.** `ollama ps` показує, де живе завантажена модель: її стовпець `PROCESSOR` на VPS показує `100% CPU`. Ollama за замовчуванням слухає 127.0.0.1, порт 11434; до неї дістаються через SSH-тунель або ставлять попереду зворотний проксі з автентифікацією, перш ніж змінювати `OLLAMA_HOST`.

*Встановлення Ollama, запуск моделі, налаштування контексту й паралелізму*

```bash
# official install script for Linux
curl -fsSL https://ollama.com/install.sh | sh

# pull and run a model that fits the plan (here about 2.5 GB)
ollama run qwen3:4b "Summarize what a dedicated vCPU is in one sentence."

# where the model is loaded: expect 100% CPU
ollama ps

# service settings: add these two lines under [Service]
sudo systemctl edit ollama
#   Environment="OLLAMA_CONTEXT_LENGTH=4096"
#   Environment="OLLAMA_NUM_PARALLEL=1"
sudo systemctl daemon-reload
sudo systemctl restart ollama
```

## Чи варто використовувати llama.cpp напряму?

**llama.cpp — це вибір, коли важливі квантизація, кількість потоків і прапорці сервера.** У його README перелічено підтримку AVX, AVX2, AVX512 і AMX на x86 та цілочисельну квантизацію від 1.5-bit до 8-bit, щоб зменшити споживання пам'яті й прискорити інференс. Він постачається з `llama-bench` — інструментом тестування продуктивності, чиї типові налаштування обробляють промпт на 512 токенів і генерують 128 токенів, і який за один запуск пробує кілька значень кількості потоків.

Дві перевірки займають хвилину на будь-якому VPS: які векторні інструкції надає процесор, і чи модель працює швидше на стількох потоках, скільки vCPU, чи на одному потоці на фізичне ядро. У Cobaltfell vCPU — це один апаратний потік процесора хоста. Ваші потоки закріплені один до одного за вашим VPS і ніколи не позичаються іншому клієнту, а два потоки одного фізичного ядра завжди лишаються разом, тож кожні 2 vCPU утворюють одне ціле ядро, якого не ділить із вами сусід, тож Fell 16 дає 16 потоків на 8 ядрах для порівняння; правило пояснено в [чи виділений vCPU — це ядро чи потік](https://cobaltfell.com/uk/vcpu-vs-core/ "Чи є виділений vCPU ядром чи потоком на VPS?").

*Функції CPU та порівняння кількості потоків*

```bash
# vector instructions the VPS can use
grep -o -w -E 'avx2|avx512f|avx512_bf16|amx_tile' /proc/cpuinfo | sort -u

# prompt 512 tokens, generate 128, on 8 and then 16 threads
llama-bench -m qwen3-8b-q4_k_m.gguf -p 512 -n 128 -t 8,16
```

## Що змінюють виділені vCPU для інференсу?

**Генерація тримає кожен потік зайнятим упродовж усієї довжини відповіді, тож втрачений час CPU прямо перетворюється на повільніші токени.** На спільному vCPU сплеск сусіда подовжує кожну відповідь як steal time, що пояснено в [що таке CPU steal time і як перевірити його на VPS](https://cobaltfell.com/uk/cpu-steal-time/ "Що таке CPU steal time і як його перевірити на VPS?"), а обмеження добросовісного використання на тривалі періоди повного навантаження стримують інференс першими.

У Cobaltfell: Повне навантаження дозволене стільки, скільки потрібно вашій роботі: без CPU-кредитів, без вікна бурсту і без тротлінгу після кількох хвилин на 100%. RAM вашого плану зарезервована для вашого VPS і не перепідписується, тож завантажену модель ніколи не витісняє з RAM хост. Родина процесорів — AMD EPYC 9004/9005 (Zen 4 / Zen 5). Запускати модель на 100% дозволено; межа проведена в іншому місці: Майнінг будь-якої криптовалюти заборонено на будь-якому плані й будь-яким програмним забезпеченням. Ваша власна важка робота CPU, як-от збірки, кодування, інференс або бази даних, може виконуватися на повному навантаженні, а вузол, що лише валідує блокчейн, не є майнінгом.

Хости, що продають виділені vCPU, і ціну одного ядра порівняно в [скільки коштує VPS з виділеним CPU за ядро в листопаді 2026](https://cobaltfell.com/uk/dedicated-cpu-vps-price-index/ "Dedicated CPU VPS price per core, survey of 2 November 2026").

## Коли GPU — правильна відповідь для LLM?

**GPU — правильна відповідь, коли швидкість на користувача, кількість користувачів або розмір моделі важливіші за вартість.** Тест Leaseweb проводить ту саму межу: CPU підходить для пакетних, асинхронних і легких навантажень, тоді як GPU залишається попереду для робіт, критичних до затримки, високої конкурентності та моделей понад 20B параметрів без квантизації. Ще три випадки вказують на GPU:

- **Моделі, більші за RAM.** Fell 16 має 32 GB; модель 70B на 43 GB не вміщується в жоден план.
- **Довгі промпти.** Retrieval і чат із документами подають тисячі токенів до першого слова, і саме на цій стадії промпту CPU чекає найдовше.
- **Тренування й донавчання.** На практиці це роботи для GPU.

Cobaltfell не продає GPU. Для цих випадків правильна оренда — GPU-сервер, а CPU VPS тримають для API, черги й векторної бази навколо моделі. Відеокодування ставить те саме питання, відповідь у [чи може VPS транскодувати відео за допомогою FFmpeg без GPU](https://cobaltfell.com/uk/vps-for-video-transcoding/ "Чи можна транскодувати відео за допомогою FFmpeg на VPS із виділеними vCPU без GPU?").

## Які ще питання люди ставлять про LLM на VPS без GPU?

### Чи може DeepSeek R1 працювати на VPS без GPU?

Дистильовані версії — так: deepseek-r1:8b (5.2 GB) на Fell 8 і deepseek-r1:32b (20 GB) на Fell 16 з коротким контекстом. Повна deepseek-r1:671b — це завантаження на 404 GB, і вона не вміщується в жоден план VPS.

### Чи можуть кілька користувачів ділити одну модель на CPU?

Так, ціною пам'яті на кожен паралельний запит. Ollama за замовчуванням обслуговує по одному запиту на модель за раз (`OLLAMA_NUM_PARALLEL=1`), а потрібна RAM зростає пропорційно до цього значення, помноженого на довжину контексту. Підвищуйте його крок за кроком і стежте за `free -h`.

### Як виміряти, наскільки швидко модель працює на моєму плані?

`llama-bench` показує швидкість промпту та генерації в токенах за секунду для файлу моделі й кількості потоків. Він повторює кожен тест 5 разів за замовчуванням і дає середнє зі стандартним відхиленням.

### Скільки моделей Ollama може тримати завантаженими на CPU?

До 3 за замовчуванням для інференсу на CPU, кожна тримається в пам'яті 5 хвилин після останнього використання. На Fell 2 і Fell 4 одна модель за раз не дає другій витіснити першу в swap.

### Чи пропонує Cobaltfell GPU-сервери?

Ні. Cobaltfell продає Linux VPS із виділеними vCPU на процесорах AMD EPYC 9004/9005, від $10.49 на місяць на 12-місячному терміні, як зазначено в [скільки коштує VPS з виділеними ядрами](https://cobaltfell.com/uk/pricing/ "Скільки коштує VPS із dedicated vCPU?").

## Джерела

1. [Ollama FAQ (довжина контексту, паралельні запити, завантажені моделі, адреса прив'язки)](https://docs.ollama.com/faq) — Ollama (checked 2026-11-02)
2. [Ollama на Linux (скрипт встановлення, systemd)](https://docs.ollama.com/linux) — Ollama (checked 2026-11-02)
3. [Бібліотека Ollama: qwen3](https://ollama.com/library/qwen3) — Ollama (checked 2026-11-02)
4. [Бібліотека Ollama: gemma3](https://ollama.com/library/gemma3) — Ollama (checked 2026-11-02)
5. [Бібліотека Ollama: llama3.2](https://ollama.com/library/llama3.2) — Ollama (checked 2026-11-02)
6. [Бібліотека Ollama: deepseek-r1](https://ollama.com/library/deepseek-r1) — Ollama (checked 2026-11-02)
7. [llama.cpp README](https://github.com/ggml-org/llama.cpp/blob/master/README.md) — ggml-org (checked 2026-11-02)
8. [llama-bench](https://github.com/ggml-org/llama.cpp/tree/master/tools/llama-bench) — ggml-org (checked 2026-11-02)
9. [AMD EPYC LLM Inference Benchmark: CPU Performance for 7B-20B Models and TTS Workloads](https://blog.leaseweb.com/2026/04/05/amd-epyc-llm-inference-benchmark-cpu-vs-gpu/) — Leaseweb (published 2026-04-05, updated 2026-08-20, checked 2026-11-02)
10. [VPSLab Ryzen VPS (R9 Ultra, 48 GB)](https://vpslab.cloud/ryzen-vps) — VPSLab (checked 2026-11-02)

---

Cobaltfell: Cobaltfell — це постачальник VPS із виділеними ядрами vCPU, оплата в криптовалюті без завантаження ID, яким керує DomaineGoat LLC, компанія, зареєстрована в Панамі. Кожне ядро vCPU закріплене лише за вашим сервером, на процесорах AMD EPYC 9004/9005 (Zen 4 / Zen 5) із NVMe-сховищем, у Амстердамі (Нідерланди), Цюриху (Швейцарія) та Бухаресті (Румунія). На 12-місячному терміні кожен тариф коштує щонайменше на 25% дешевше за названий порівнянний тариф із виділеним CPU, обраний серед 6 хостингів crypto VPS без KYC, ціни прочитано 2 листопада 2026 року.