AIエージェントを実践していくと、「ローカルLLM」という言葉を頻繁に見かけるようになるでしょう。
Hermes Desktopを試していると、Geminiだけでなく、
- Gemma
- Qwen
- DeepSeek
といったモデルの名前も出てきます。
そして調べていくと、
- LM Studio
- Ollama
- GPT4All
- Open WebUI
- …etc
といった聞き慣れないツールもたくさん登場します。
正直なところ、最初は混乱すると思います。
- 「ローカルLLMって何？」
- 「ChatGPTと何が違うの？」
- 「そもそも何をインストールすればいいの？」
今回は実際にローカルLLMの実践に入る前に、初心者目線で整理してみたいと思います。
そもそもLLMとは何か？
まず前提として、LLMとは「Large Language Model（大規模言語モデル）」の略です。
難しく聞こえますが、要するにAIの頭脳です。
- ChatGPTには、GPTがあります。
- Geminiには、Geminiがあります。
- Claudeには、Claudeがあります。
私たちが普段会話しているAIの裏側には、それぞれのLLMが存在しています。
つまり、LLMそのものは新しい概念ではありません。
私たちは、普段からLLMを利用しています。
ローカルLLMとは何か？
では、ローカルLLMとは何でしょうか？
簡単に言うと、「自分のパソコンの中で動くLLM」です。
ChatGPTやGeminiは、OpenAIやGoogleのサーバー上で動いています。
それらを、私たちは、インターネット経由で利用しています。
一方、ローカルLLMは、自分のパソコンにダウンロードして利用します。
イメージとしては、次のような違いです。
| クラウドAI | ローカルLLM |
|---|---|
| インターネット経由 | 自分のパソコン内で動作 |
| ChatGPT | Gemma |
| Gemini | Qwen |
| Claude | DeepSeek |
つまり、ローカルLLMは、「AIを自分で所有する」という考え方に近いのかもしれません。
なぜ「ローカルLLM」が注目されているのか？
主に、3つの理由があります。
- 無料で利用できる
- 情報を外部に送らなくて良い
- 自分専用の環境を作れる
特に、情報管理の面は、大きいでしょう。
例えば機密性の高い資料や顧客情報を扱う場合、外部サーバーへ送信したくないケースもあります。
そうした場合、ローカルLLMは、有力な選択肢になります。
また、最近は性能も大きく向上しており、GemmaやQwenなどは、実務でも十分使えるという声も増えています。
「ローカルLLMマネージャー」とは何か？
さらに、「ローカルLLMマネージャー」というものもあります。
最初は、LM StudioやOllamaもAIそのものだと思うことでしょう。
でも、実際には、少し違います。
LM StudioやOllamaは、AIを管理するためのツールです。
例えるなら、動画そのものではなく、動画プレーヤーのような存在です。
| 種類 | 代表例 |
|---|---|
| LLM（AI本体） | Gemma、Qwen、DeepSeek |
| LLMマネージャー | LM Studio、Ollama |
| チャット画面 | Open WebUI、GPT4All、Jan |
| AIエージェント | Hermes Desktop |
この違いを理解しておくと、今後の実践が、かなり分かりやすくなります。
最初に混乱するポイント
調べていて、最も混乱するのは、「名前が多すぎる」ことでしょう。
- Gemma、Qwen、DeepSeek
- LM Studio、Ollama
- Open WebUI、AnythingLLM、Jan
最初は、全部同じものに見えます。
ですが整理すると、役割はそれぞれ異なります。
まずは、「AI本体」と「管理ツール」を分けて考えると、理解しやすくなるでしょう。
まとめ
今回の内容を整理すると、次のようになります。
- LLMはAIの頭脳
- ローカルLLMは自分のパソコンで動くAI
- GemmaやQwenはAI本体
- LM StudioやOllamaはAIを管理するツール
- Open WebUIやGPT4Allは操作画面に近い存在
次回からは、いよいよ実際に、ローカルLLMを動かしてみます。
まずは、LM Studioなのか、Ollamaなのか。
そして、GemmaやQwenは、本当に実務で使えるのか。
引き続き、実践しながら検証していきたいと思います。
