この記事のポイント
- モデルを端末で動かすには、機器のVRAM・RAM容量が関係します。
- OllamaはCPUでも動作しますが、速度やGPU対応は機器とモデルで異なります。
- モデルのダウンロード容量だけでは実行時の速さを判断できません。
Ollamaの公式資料をもとに、手元のパソコンで動かす際の機器条件を紹介します。対応GPUとモデル容量、実行速度の関係を整理します。
動作を左右するのは「メモリ」、自分のGPUは対応しているか
ローカルLLMは、AIの「頭脳」にあたるモデルデータを丸ごとメモリに読み込んで動かします。GPUで推論する場合はVRAM、CPUで推論する場合はシステムメモリ(RAM)が必要です(Ollama公式FAQ)。面白いのは、この2つが両方にまたがって読み込まれることもある点。実行中のモデルを確認するollama psコマンドの「PROCESSOR」列には100% GPU・100% CPU・48%/52% CPU/GPUのような表示があり、VRAMが少し足りなくても残りをシステムRAMで補いながら動かせます。ただし分割が増えるほど処理は遅くなりがちで、モデルが1枚のGPUに収まる場合がいちばん速いと公式も説明しています。基本はローカルLLMって結局何?自分のパソコンだけで動くAIですで整理しています。
対応GPUはOllama公式のハードウェア対応ページに一覧があります(docs.ollama.com/gpu)。
- NVIDIA: Compute Capability 5.0以上・ドライバ550以上が条件(GTX 900番台以降のGeForceならおおむね対応圏内)。5.0〜6.2の古めのGPUはドライバ570以上が必要
- AMD: ROCmライブラリ経由で、Radeon RXの6800/6900/6950 XTクラス以上・7000番台・9000番台の主要モデルなどが対応。Windowsは対応機種が絞られています
- Appleシリコン: Metal API経由の対応はApple Mシリーズのみ。Intel搭載Macの場合はCPUのみでの動作です(docs.ollama.com/macos)
- Vulkan: WindowsとLinuxでは、IntelやAMDのGPUを「Vulkan」経由で追加サポート。既定で有効です
GPUがなくても動く、モデルサイズ別の必要メモリ目安
GPUがなくてもCPUだけで実行できます。速度は遅くなるため、小さなモデルから試す方法があります。GPU対応はOllama公式のGPU要件で確認してください。スペックが足りない場合は、:cloud付きモデルを使う方法もあります。詳しくはOllamaの始め方をご覧ください。次に気になるのは「どのくらいの大きさのモデルなら動くか」で、目安になるのがOllama公式のモデルライブラリに表示されているダウンロードサイズです(Ollama公式モデルライブラリ)。
| モデル例 | パラメータ数 | ダウンロードサイズの目安 |
|---|---|---|
| qwen3:4b | 4B | 約2.5GB |
| qwen3:8b / llama3.1:8b | 8B | 約5GB前後 |
| qwen3:14b | 14B | 約9.3GB |
| qwen3:32b | 32B | 約20GB |
| llama3.1:70b | 70B | 約43GB |
| llama3.1:405b | 405B | 約243GB |
パラメータ数が増えるほど必要なメモリも大きくなります。70B・405B級は大きなメモリ容量が必要で、実行できるかは量子化の形式やVRAM・RAM、許容できる速度によって異なります。ゲーミングPCやMacなら、まずは4B〜8Bクラスから試すのが現実的な出発点で、VRAM・RAMに余裕があれば14Bクラスまで狙えます(数値は掲載時点のもの)。
まとめ: 自分のPCで動くか、容量と実測で判断する
端末内でモデルを動かしたい方には、対応GPUとVRAM・RAMの容量が確認点になります。ダウンロードサイズだけでは動作速度は分かりません。既存端末で用途に近い処理を測ると、新しい機器を購入する必要があるかを判断しやすくなります。
※2026年8月時点の情報です。対応状況はOllama公式ドキュメントを確認するとよいでしょう。 GPU単体ではなくVRAM容量を増やした専用ハードウェアの例として、NVIDIA DGX Sparkの64GBモデルも登場しています。
