GPUなしの専用vCPU VPSでOllamaや小型LLMを実行できますか？

各プランのRAMにはどのモデルが収まりますか？

CPUでは、どのモデルを実行できるかはRAMが決め、どれくらい速く動くかはvCPUが決めます。モデル全体がシステムメモリに載り、Ollamaが表示するダウンロードサイズは必要なメモリ量の最初の目安として適しています。これにコンテキスト、システム、その他VPS上のものが加わります。Ollamaのドキュメントによると、必要なRAMはOLLAMA_NUM_PARALLEL × OLLAMA_CONTEXT_LENGTHで増加し、デフォルトのコンテキストは4,096トークンです。

CPUでのLLM推論はどれくらい速いですか？

CPU推論はGPUより遅く、その差はスレッド数、メモリ帯域幅、量子化によって決まります。Cobaltfellは独自のトークン毎秒の数値は公開していません: 当社自身のYABSおよびGeekbench 6の結果は、測定したsteal timeとともに、最初のテストマシンが納品され次第、日付を添えて公開されます。それまでは、当社独自のパフォーマンス数値は一切提示しません。

最も有用な公開データは、Leasewebが2026年4月5日に公開したテストです（ページ更新日2026年8月20日）。AMD EPYC 9334プロセッサ（Zen 4）2基を搭載し24スレッドで動作するサーバーで、このテストは4ビット量子化の8Bモデル（DeepSeek-R1-0528-Qwen3-8B、Q4_K_M）で毎秒27.8トークン、同じモデルのFP16で毎秒8.1トークンを生成しました。NVIDIA L4 GPUはこのモデルのFP16で毎秒16.7トークンに達しました。Q4での最初のトークンまでの時間は、テストしたモデル全体で3.6〜4.8秒でした。

CPUのみのVPSでOllamaを実行するにはどうすればよいですか？

公式スクリプトでOllamaをインストールし、プランに収まるモデルをpullし、完全にCPUで動作することを確認します。 ollama psは、読み込まれたモデルがどこにあるかを示します。VPSではPROCESSOR列が100% CPUと表示されます。Ollamaはデフォルトで127.0.0.1のポート11434で待ち受けます。SSHトンネル経由でアクセスするか、OLLAMA_HOSTを変更する前に認証付きのリバースプロキシを前に置いてください。

# official install script for Linux
curl -fsSL https://ollama.com/install.sh | sh

# pull and run a model that fits the plan (here about 2.5 GB)
ollama run qwen3:4b "Summarize what a dedicated vCPU is in one sentence."

# where the model is loaded: expect 100% CPU
ollama ps

# service settings: add these two lines under [Service]
sudo systemctl edit ollama
#   Environment="OLLAMA_CONTEXT_LENGTH=4096"
#   Environment="OLLAMA_NUM_PARALLEL=1"
sudo systemctl daemon-reload
sudo systemctl restart ollama

llama.cppを直接使うべきですか？

量子化、スレッド数、サーバーフラグが重要な場合は、llama.cppが選択肢になります。 そのREADMEには、x86でのAVX、AVX2、AVX512、AMXのサポートと、メモリ使用量を削減して推論を高速化する1.5ビットから8ビットまでの整数量子化が記載されています。パフォーマンステストツールであるllama-benchが同梱されており、デフォルトでは512トークンのプロンプトを処理して128トークンを生成し、1回の実行で複数のスレッド数を試します。

どのVPSでも1分でできる確認が2つあります。プロセッサが公開しているベクトル命令はどれか、そしてモデルがvCPUと同じ数のスレッドで速く動くか、物理コアごとに1スレッドで速く動くかです。CobaltfellではvCPUはホストプロセッサのハードウェアスレッド1つ分です。お客様のvCPUはVPSに1対1で固定され、他のお客様に貸し出されることはなく、物理コアの2つのスレッドは常にペアで割り当てられます。そのため、2 vCPUごとに隣人と共有しない完全なコア1つになりますなので、Fell 16は比較用に8コアで16スレッドになります。このルールは専用vCPUはコアかスレッドかで説明しています。

# vector instructions the VPS can use
grep -o -w -E 'avx2|avx512f|avx512_bf16|amx_tile' /proc/cpuinfo | sort -u

# prompt 512 tokens, generate 128, on 8 and then 16 threads
llama-bench -m qwen3-8b-q4_k_m.gguf -p 512 -n 128 -t 8,16

専用vCPUは推論に何をもたらしますか？

生成中は回答の長さ全体にわたってすべてのスレッドが稼働し続けるため、失われたCPU時間はそのまま遅いトークンになります。 共有vCPUでは、隣接するインスタンスのバーストがsteal timeとして各応答を引き伸ばします。詳しくはCPU steal timeとは何か、VPSで確認する方法で説明しています。また、長時間のフルロードに対するフェアユースの上限は、推論を最初に制限します。

Cobaltfellでは、ワークロードが必要とする限り、フル負荷が許可されます。CPUクレジットもバースト時間枠もなく、100%で数分経過してもスロットリングされませんです。プランのRAMはVPS専用に確保され、オーバーコミットされませんなので、読み込まれたモデルがホストによってRAMから追い出されることはありません。プロセッサファミリーはAMD EPYC 9004/9005（Zen 4 / Zen 5）です。モデルを100%で実行することは許可されています。線引きは別のところにあります。いかなるプランでも、いかなるソフトウェアでも、暗号資産のマイニングは許可されません。ビルド、エンコード、推論、データベースなど、お客様自身の高負荷なCPU処理はフル負荷で実行できます。ブロックチェーンを検証するだけのノードはマイニングには該当しません。

専用vCPUを販売するホストと1コアあたりの価格は、専用CPU VPSの1コアあたりのコストは2026年11月にいくらかで比較しています。

LLMにとってGPUが正解となるのはどのような場合ですか？

ユーザーあたりの速度、ユーザー数、モデルのサイズがコストよりも重要である場合、GPUが正解です。 Leasewebのテストも同じ線を引いています。CPUはバッチ処理、非同期処理、軽いワークロードに適しているのに対し、GPUはレイテンシが重要な作業、高い同時実行性、量子化なしで20Bパラメータを超えるモデルでは優位に立っています。さらにGPUを指し示す3つのケースがあります。

• RAMより大きいモデル。 Fell 16は32 GBです。43 GBの70Bモデルはどのプランにも収まりません。
• 長いプロンプト。 検索やドキュメントチャットでは、最初の単語の前に数千トークンが入力され、CPUが最も長く待つのはこのプロンプト段階です。
• トレーニングとファインチューニング。 これらは実際にはGPUの仕事です。

CobaltfellはGPUを販売していません。そうしたケースではGPUサーバーをレンタルするのが正解で、モデルの周囲にあるAPI、キュー、ベクトルデータベース用にCPU VPSを残しておきます。動画エンコードも同じ問題を提起しており、VPSはGPUなしでFFmpegを使って動画をトランスコードできるかで回答しています。