PCを確認する
- いちばん大事なのはメモリ:8GBで小型モデル、16GBで良い中型モデル、32GB以上で大型モデル。
- GPU(VRAMの多いNVIDIA)やApple Silicon搭載Mac(M1以降)だとモデルがずっと速く動く。
- 空き容量:一般的なサイズのモデルで1つあたり2〜10GB。
ルートA — Ollama(シンプル、コマンド操作)
- 1
インストール
ollama.com から自分のOS用のOllamaをダウンロードしてインストール。
- 2
モデルを動かす
ターミナルを開き、たとえば ollama run qwen3:4b 、 ollama run deepseek-r1:7b 、 ollama run llama3.2 、 ollama run gemma3 と入力。
- 3
モデルを管理
ollama list でインストール済みモデルを表示、 ollama rm <名前> で削除。
- 4
他のアプリから使う
Ollamaはローカルサーバー(標準ではポート11434)を動かしていて、多くのチャット画面、コードエディタ、スクリプトが接続できます。
ルートB — LM Studio(すべてクリック操作)
- 1
インストール
lmstudio.ai からLM Studioをダウンロードしてインストール。
- 2
モデルを探す
Discoverタブで検索。各ダウンロードがメモリに収まるかをLM Studioが表示します。
- 3
チャット
Chatタブでモデルを読み込み、入力を始めます。
もっと快適なチャット画面(任意)
Ollamaを使うなら、Open WebUIのような無料プロジェクトでChatGPT風の画面を追加できます。Ollamaに自動で接続し、ブラウザでチャット履歴、ファイルのアップロード、モデルの切り替えが使えます。
作業別のおすすめモデル
- 一般的な会話や文章作成:メモリに合うサイズのQwen、Llama、Gemma。
- 数学、論理、ステップごとの推論:DeepSeek-R1の蒸留モデル。
- プログラミング:Qwenのcoder版や他のコード向けモデル。
- とても古い、またはメモリの少ないノートPC:最小サイズ(約1〜2bパラメータ)。