AI Orbit A2Z Logo

🐉 モジュール 5: 中国発のAIモデル:DeepSeek・Qwen・Kimi · レッスン 17 / 18

どんなオープンAIモデルも自分のPCで動かす(OllamaとLM Studio)

AIをローカルで動かせば、サブスク不要、データはPCの外に出ず、オフラインでも使えます。難しそうに聞こえますが、今のツールなら15分ほどでできます。

11 分で読めます · 中級

PCを確認する

  • いちばん大事なのはメモリ:8GBで小型モデル、16GBで良い中型モデル、32GB以上で大型モデル。
  • GPU(VRAMの多いNVIDIA)やApple Silicon搭載Mac(M1以降)だとモデルがずっと速く動く。
  • 空き容量:一般的なサイズのモデルで1つあたり2〜10GB。

ルートA — Ollama(シンプル、コマンド操作)

  1. 1

    インストール

    ollama.com から自分のOS用のOllamaをダウンロードしてインストール。

  2. 2

    モデルを動かす

    ターミナルを開き、たとえば ollama run qwen3:4b 、 ollama run deepseek-r1:7b 、 ollama run llama3.2 、 ollama run gemma3 と入力。

  3. 3

    モデルを管理

    ollama list でインストール済みモデルを表示、 ollama rm <名前> で削除。

  4. 4

    他のアプリから使う

    Ollamaはローカルサーバー(標準ではポート11434)を動かしていて、多くのチャット画面、コードエディタ、スクリプトが接続できます。

ルートB — LM Studio(すべてクリック操作)

  1. 1

    インストール

    lmstudio.ai からLM Studioをダウンロードしてインストール。

  2. 2

    モデルを探す

    Discoverタブで検索。各ダウンロードがメモリに収まるかをLM Studioが表示します。

  3. 3

    チャット

    Chatタブでモデルを読み込み、入力を始めます。

もっと快適なチャット画面(任意)

Ollamaを使うなら、Open WebUIのような無料プロジェクトでChatGPT風の画面を追加できます。Ollamaに自動で接続し、ブラウザでチャット履歴、ファイルのアップロード、モデルの切り替えが使えます。

作業別のおすすめモデル

  • 一般的な会話や文章作成:メモリに合うサイズのQwen、Llama、Gemma。
  • 数学、論理、ステップごとの推論:DeepSeek-R1の蒸留モデル。
  • プログラミング:Qwenのcoder版や他のコード向けモデル。
  • とても古い、またはメモリの少ないノートPC:最小サイズ(約1〜2bパラメータ)。

まとめ

  • ★ メモリで動かせるモデルが決まる。
  • ★ Ollama(コマンド)かLM Studio(クリック)——どちらも無料。
  • ★ ローカルAIならデータは自分のPCにとどまり、オフラインでも使える。

関連情報