最近、大規模言語モデル（LLM）をローカルで実行することに夢中になっていて、 MCPツールでできるクールなこと自分の設定を少しアップグレードする時期が来たことに気づきました。
DeepSeek R1がリリースされた当初は、私も熱狂の渦に飛びつきましたが、その後も多くの新モデルが登場しました。あらゆるものが急速に変化している今、自分のワークフローも最適化する必要があると考えました。
クイックリンク
LM Studio は、私がこれまで使用した中で最高のローカル LLM アプリです。
オラマも良いですが、私はこちらの方が好きですね。
私は昨年、Ollamaを使ってローカル大規模言語モデル（LLM）の実験を始めました。十分に機能しましたが、RAMが8GBしかない私のMacBook Airでは、明らかにそのような負荷に耐えられる設計ではありませんでした。それでも、好奇心から、そしてもっとパフォーマンスを向上できるかどうか試してみたかったので、何か違うものを試してみたかったのです。
そこで、LM Studioを試してみることにしました。これは、大規模言語モデル（LLM）をローカルマシンにダウンロードして実行できるアプリケーションで、すっきりとしたユーザーインターフェースも備えています。私はMacを使用しているので、MLXのサポートは私にとって非常に重要でした。MLXとは、Apple Silicon向けに特別に設計されたAppleの機械学習フレームワークです。
基本的に、グラフィックス・プロセッシング・ユニット（GPU）を使用してモデルをより効率的に実行できるようになります。しかし、この言葉を数値で表したかったので、同じモデルを使用して、OllamaとLMStudioを直接比較しました。
LM Studioでは1秒あたりのシンボル数は増加しましたが、その差は小さく、全体的なエクスペリエンスに大きな変化はありませんでした。とはいえ、パフォーマンスが向上するのであれば、どんなことでも歓迎です。
ただし、Ollama と LM Studio のどちらを選択しても、特にどちらもモデルをローカルで実行するための同様の基本フレームワークに依存しているため、大きな違いはないと思います。
使い始めた頃の最大の不満は、マルチメディアサポートの不足でした。しかし、今ではそれは大きな問題ではありません。OllamaとLM Studioはどちらもマルチメディアテンプレートをサポートしており、ローカルデバイスでテキストと画像をうまく処理できる強力なオプションもいくつかあります。
適切なモデルを選ぶのは少し難しいかもしれません
お金のかかる趣味になることもある
LM Studioを初めてインストールする際、まず最初にテンプレートを選択する必要があります。「このテンプレートを使う」という明確な答えがないため、初めての方は少し戸惑うかもしれません。適切な選択は、お使いのハードウェアによって異なります。
LM Studioのモデル検索メニューを開くと、最も人気のあるモデルのリストが表示されます。モデルの需要度を簡単に把握するには、モデル名の「B」の直前の数字を確認するのがおすすめです。
「B」は数十億のパラメータを表します。一般的に、この数値が大きいほどモデルの性能は高くなります。ただし、これはより多くのリソースが必要になることを意味します。8GBのVRAMを搭載したMacでは、3億から4億のパラメータが適切な範囲だと感じています。PCでは状況が少し複雑になる場合があります。システムの通常のRAMではなく、VRAMの容量が最も重要になります。
8GBのVRAMがあれば、特に軽量な量子構成では、7Bパラメータのモデルを快適に実験できます。私の経験では、まずは小さなモデルから始めて、徐々にサイズを大きくし、最適なモデルを見つけるのが最良のアプローチです。
個人的には、GoogleのGeminiモデルと同じ基盤を持つGemma 3 4Bモデルに魅力を感じました。とはいえ、Qwenモデルも試してみることをお勧めします。用途によっては、Qwenモデルの方がはるかに適しているかもしれません。
ローカルLLMにウェブ検索を追加することもできます
DuckDuckGoが救世主となる
ネイティブ大規模言語モデル（LLM）に関する最大の不満の一つは、Web検索に関して、ChatGPTのようなクラウドベースのモデルと比べて機能が限られていることです。最新のiPhoneについて質問しても、LLMがiPhone 14の話を始めてしまうのは、あまり役に立ちません。これは、クラウドベースのモデルが優れている点の一つです。
LM Studioにはプラグインシステムが組み込まれており、ウェブ検索機能を追加するのは非常に簡単です。 DuckDuckGoアドオンページそして、LM Studio で実行を指定します。
有効にすると、フォームを実行する際に、チャットボックスの下に、クエリに対してDuckDuckGoを呼び出すかどうかを尋ねるオプションが表示されます。これをオンにすると、LM Studioはライブ検索結果を取得し、フォームに入力してから応答を生成します。
プラグインでできることはこれだけではありません。LM Studioチームは、非常に便利なプラグインもいくつか開発しています。例えば、大規模な言語モデルでWikipediaの記事を読み込んだり検索したりできるWikipediaプラグインがあります（もちろん）。
JavaScript Sandboxプラグインもあります。これは、バイブコーディングに興味があり、構築されているものをすぐに大まかに把握したい場合に非常に便利です。ただし、本番環境で使えるものを作るのに労力をかける価値があるとは言い切れません。
大企業を排除する
LM Studio を設定すると、携帯電話から大規模な言語モデルにアクセスできますが、すべての推論を直接携帯電話に転送することも可能です。 Android スマートフォンで小規模および大規模な言語モデルを実行するただし、Mac ほど強力ではありません。
これらの軽量モデルの改良は、急速かつ驚異的なペースで続いています。ハードウェアコストの上昇が予想される中、OpenAIやGoogleのような企業がサブスクリプション価格を値上げしても驚きません。そうした影響を受けない環境があるのは安心です。
