ローカルLLM

Ollamaで始めるローカルLLM、Mac・Windowsの導入手順

この記事のポイント

  • Ollamaは、モデルを端末に取り込んで自分の機器で実行できるツールです。
  • モデルは端末内で動かす方法と、「:cloud」でクラウド実行する方法があります。
  • 必要な容量や速度はモデルと機器で変わるため、導入前に公式要件を確認します。

Ollamaの導入手順と、モデルの実行先を整理します。

Ollamaの基本と動作要件

Ollama(オラマ)は、LLM(大規模言語モデル、ひとことで言えばChatGPTの中身にあたるAI)を自分のパソコンにダウンロードして動かせる無料ツールです。ローカルモデルを端末内で実行する場合は、ダウンロード後にオフラインで動かせます。後述のクラウドモデルを選ぶ場合は処理先が異なります。対応OSはmacOS・Windows・Linuxです(Ollama公式クイックスタート)。インストール前に、以下の要件を確認するとよいでしょう。

OS 必要なバージョン 備考
macOS Sonoma(v14)以上 Apple MシリーズはCPU/GPU対応、Intel系はCPUのみ対応
Windows Windows 10 22H2以降(Home/Pro) NVIDIA GPU利用時はドライバ551.61以上、AMD GPUはROCm v7/HIP7かVulkan対応ドライバが必要

ストレージは、Windowsは本体だけで最低4GB、モデルは1つあたり数GB〜数十GB(大きなものは数百GB)が目安です(macOSインストールガイド、Windowsインストールガイド)。CPUでも動作しますが、速度はモデルや機器によります。ローカルLLMの概要はこちらの記事で解説しています。

インストールから最初のチャットまで

macOS・Windowsでの基本手順です。

  • macOS: 公式ダウンロードページから.dmgを取得し、「Ollama」アプリを「Applications」フォルダへドラッグ。起動時の確認ダイアログを許可すれば完了です。設定は~/.ollamaに保存されます
  • Windows: 公式ダウンロードページからOllamaSetup.exeを取得して実行するだけ(管理者権限不要)。インストール後はバックグラウンドで自動起動します。保存先を変える場合のみOllamaSetup.exe /DIR="d:\some\location"と指定できます

ターミナル(WindowsはコマンドプロンプトかPowerShell)で次を実行します。

# モデルをダウンロードして実行し、そのままチャットを開始する
ollama run gemma4

初回はダウンロードで少し待ちますが、終われば自動でチャットが始まります。終了は/byeです(docs.ollama.com/quickstart)。モデル名の後ろに:cloudを付ける(例:ollama run gemma4:cloud)と、手元のPCではなくOllama社のクラウド側で実行することもでき、スペックに不安があるときの逃げ道になります。

CPUでも実行できますが、モデルが大きいほど処理に時間がかかる場合があります。GPUを使う場合は、対応機種や設定がOSごとに異なるため、Ollama公式のGPU要件で利用環境を確認してください。

「導入してモデルを選び実行先を確認する」を表したイラスト

まとめ: つまずきやすい点と次の一歩

Ollamaを試す方は、端末の条件と選ぶモデルの実行先を確認するとよいでしょう。ローカルモデルと「:cloud」ではデータの処理先が異なります。業務で利用する場合は、動作確認だけでなく、社内資料を扱える構成かを照合することが判断の前提になります。Claude Desktopと組み合わせて使う方法は、OllamaとClaude Desktopを連携させる記事で紹介しています。

インストーラーや対応機器の要件は更新されることがあります。実際に導入する際はOllama公式ドキュメントで最新情報をご確認ください。

関連情報:OllamaのNemotron HがMacの画像認識に対応した話、GitHub Copilot CLIでのOllama利用。

著者プロフィール

アバター画像

馬渡 徹郎 / Tetsuro Mawatari ホームページ

AI新規サービス開発や大手企業のAIエージェント導入支援をしています。