ローカルLLMの始め方|LM StudioでQwen3.6/GLM/Gemma 4を動かす

「スペック高めのPCをお持ちでオープンウェイトモデルに興味のある方は、Qwen 3.6やGemma 4といったモデルを試してみると楽しい」──2026年7月、NewsPicksのコメント欄でエンジニアがこう紹介していたのが、ローカルLLMをGUIだけで動かせるツール「LM Studio」だ。クラウドAPIへの課金や通信を気にせず、自分のPC1台で最新のオープンウェイトモデルと対話できる。本記事では、LM Studioのインストールから、Qwen3.6・Gemma 4・GLM-5.2をどう選び、どう動かすかまでを、コマンド操作が苦手な人でも迷わないように解説する。

この記事でわかること

  • LM Studioのインストールとモデルのダウンロード・チャットまでの手順
  • GGUFと量子化(Q4_K_Mなど)の基本的な仕組み
  • 自分のPCのVRAM/RAMに応じたモデル選びの目安
  • Qwen3.6・Gemma 4・GLM-5.2それぞれの特徴と使いどころ
  • OpenAI互換APIとして自作ツールに組み込む方法
目次

LM Studioとは何か

LM Studioは、Hugging Face上で公開されているオープンウェイトモデルを、GUI操作だけで検索・ダウンロード・チャットできるデスクトップアプリだ。Windows・macOS・Linuxに対応しており、ChatGPTのような見た目のチャット画面で、ボタン操作だけでローカルAIを動かせる。ターミナルでのコマンド入力を必須としないため、OllamaのようなCLI中心のツールに比べて、非エンジニアでも扱いやすい設計になっている。

個人利用は無料で、商用利用は公式の承認制(小規模な社内利用であれば申請フォームから多くの場合承認される)となっている。導入前に、自社での利用規模に応じて公式サイトの利用規約を確認しておくとよい。

導入前に知っておきたい基礎知識

GGUFとMLX:2つのモデル形式

LM Studioが扱うモデル形式は主に2種類ある。GGUFはllama.cppが採用する量子化フォーマットで、Windows・Linux・Mac・NVIDIA GPUと幅広い環境で動く事実上の標準だ。一方MLXはAppleが公開する機械学習フレームワーク向けの形式で、Apple Silicon搭載のMac上でユニファイドメモリを活かし、GGUF/Metalバックドより30〜50%程度高速に動作する場合がある。Windows・LinuxユーザーはGGUF一択、Macユーザーは両方をダウンロードして実際に速度を比較し、速い方を採用するのが堅実だ。

量子化(Quantization)の見方

量子化とは、モデルの重みを低ビットで表現し直すことで、メモリ使用量と計算量を削減する技術だ。GGUFファイルには「Q4_K_M」「Q5_K_M」「Q8_0」のような表記が付いており、数字が大きいほど元の精度に近く、ファイルサイズも大きくなる。迷ったら、精度と軽さのバランスが良いとされるQ4_K_Mから試すのが定番の選び方だ。品質に不満があればQ5やQ8に上げ、動作が重ければQ3以下に下げるという調整を行う。

※ダウンロード時は、モデルの出所にも注意したい。LM Studioの検索結果では「Publisher Verified」マークの付いたものや、Bartowski・Unslothなど実績のあるコミュニティ配布元のGGUFファイルを選ぶと、破損した量子化ファイルを引くトラブルを避けやすい。

量子化レベル早見表

GGUFの量子化表記は種類が多く初心者は迷いやすい。代表的なレベルとその特徴を整理する。

量子化レベル 相対サイズ 品質の目安 向いている用途
Q2_K 最小 劣化が大きい VRAMが極端に少ない環境での動作確認
Q3_K_S/M/L やや劣化あり 省メモリ優先、簡易な用途
Q4_K_S/M 標準 実用的なバランス 迷ったらまずここから(特にQ4_K_M)
Q5_K_S/M やや大 Q4より高品質 VRAMに余裕がある場合の一段上
Q6_K 元モデルにかなり近い 品質を重視したい場合
Q8_0 最大級 ほぼ無劣化 VRAMが潤沢、最高品質を狙う場合

ボトルネックは常に「メモリ」

ローカルLLMの快適さを決めるのは、CPUやGPUの世代よりも、搭載されているVRAM(GPUのメモリ)またはRAM(システムメモリ)の容量だ。Windows環境ではVRAMに収まらない分はメインメモリに割り当てられるが、その場合推論速度が大きく低下するため、モデル全体がVRAM内に収まる量子化レベルを選ぶのが基本になる。Apple Siliconのユニファイドメモリ構成では、システムメモリそのものが大きいほど、より大きなモデルを動かせる。

インストールからチャットまでの手順

  1. 公式サイトからインストーラーをダウンロード:LM Studioの公式サイト(lmstudio.ai)にアクセスし、自分のOS(Windows/macOS/Linux)に合ったインストーラーを取得する。
  2. インストールしてアプリを起動:ダウンロードしたインストーラーを実行するだけで導入は完了する。初回起動時に簡単なガイドが表示される。
  3. モデル検索画面を開く:Macは「⌘+Shift+M」、Windows/Linuxは「Ctrl+Shift+M」のショートカットでモデル検索画面を開く。Hugging FaceのURLをそのまま検索バーに貼り付けることもできる。
  4. モデルをダウンロード:モデル名(例:「Gemma 4」「Qwen3.6」)で検索すると、複数の量子化バリエーションが一覧表示される。LM Studioが自分のハードウェアに適した推奨候補をハイライトしてくれるので、まずはそれを選ぶとよい。
  5. モデルを読み込んでチャット開始:ダウンロードが完了したら、画面上部のセレクタからモデルを選択して読み込む。あとはChatGPTと同じ感覚で対話できる。

自分のPCに合ったモデルの選び方

2026年7月時点で、個人が現実的に試せる主要なオープンウェイトモデルと、必要なVRAM/RAMの目安を整理する。

PCのVRAM/メモリ おすすめモデル 目安サイズ(量子化後)
8GB前後 Gemma 4 E4B、Qwen3 7B級 約5〜7GB
12〜16GB Gemma 4 12B(QAT版) 約7GB
24GB(RTX 3090/4090等) Qwen3.6-27B(Q4_K_M)、Gemma 4 26B MoE 約16〜18GB
32GB以上 Qwen3.6-35B-A3B(MoE)、Gemma 4 31B Dense 約22〜24GB
大容量ユニファイドメモリ(Mac Studio等)/マルチGPU GLM-5.2(低ビット量子化GGUF) 環境次第(フル精度は業務用途向け)

最初の1本に迷ったら

16GBクラスのノートPCならGemma 4 12B(QAT版、約7GB)、24GB級のデスクトップGPUを持っているならQwen3.6-27B(Q4_K_M)から始めるのが手堅い。動作を確認できたら、コーディング特化版やマルチモーダル対応版へと用途を広げていけばよい。

実測ベンチマークの参考値

個人ユーザーによる実機検証では、RTX 3060(12GB)でGemma 4 12BのGGUF(Unslothの動的量子化版)を動かした際、Q5_K_XL量子化で入力処理(プレフィル)が毎秒1,000トークンを超え、生成速度も毎秒33トークン前後という報告がある。ハイエンド帯では、RTX 5090(32GB)クラスであればQ6_KやQ8での運用でも毎秒150〜300トークン以上が狙えるとされ、128GBクラスのユニファイドメモリを積んだ構成では、フル256Kコンテキストや複数モデルの同時運用も視野に入る。あくまで一例の実測値であり、環境やプロンプト内容によって数値は変動するため、自分の環境でLM Studioのチャット画面にあるトークン/秒カウンターを使って実測することをおすすめする。

主要モデルの特徴比較

モデル 開発元 ライセンス 特徴
Qwen3.6-27B(Dense) Alibaba Apache 2.0 27Bの密モデルながらコーディング性能が高く、SWE-bench Verifiedで77.2%を記録。ネイティブ262Kコンテキスト(YaRNで最大1M超まで拡張可)
Qwen3.6-35B-A3B(MoE) Alibaba Apache 2.0 総パラメータ35B・アクティブ3BのMoE構成。27B Denseよりも省メモリで動作し、推論速度に優れる
Gemma 4 12B Google DeepMind Apache 2.0 テキスト・画像・音声・動画を扱うマルチモーダル対応。QAT版なら約7GBで16GBノートPCでも動作
GLM-5.2(量子化版) Z.ai MIT 総753BパラメータのMoE。フル精度はH100級GPU8枚相当が必要だが、コミュニティ製の低ビット量子化GGUFで単一マシン推論も可能

Qwen3.6シリーズの命名や仕様については、記事や配布元によって表記に細かな差異が見られることがある(型番の呼び方やパラメータ数の公開状況など)。導入前には、必ずHugging Face上の公式モデルカードで最新の仕様を確認してほしい。またQwen3.6-Max-Previewのようにクローズドウェイト(重み非公開)のモデルも存在するため、「ローカルで動かせるか」は個別に確認が必要だ。

OpenAI互換APIとして使う

LM Studioは、読み込んだモデルをOpenAI互換のローカルAPIサーバーとしても公開できる。自作のスクリプトやツールから、クラウドAPIを呼び出すのと同じ感覚でローカルモデルを利用できるのが大きな利点だ。

from openai import OpenAI

client = OpenAI(
base_url=”http://localhost:1234/v1″,
api_key=”lm-studio” # 実際のキーは不要な場合が多いプレースホルダー
)

response = client.chat.completions.create(
model=”model-identifier-from-lm-studio”,
messages=[
{“role”: “system”, “content”: “You are a helpful assistant.”},
{“role”: “user”, “content”: “こんにちは”}
],
temperature=0.7
)

print(response.choices[0].message.content)

コマンドラインでの操作を好む場合は、LM Studio付属の「lms」CLIも利用できる。GitHub連携やMCP(Model Context Protocol)にも対応しており、Developerタブの「MCP Servers」パネルから、ファイルシステム・データベース・Web検索など任意のMCPサーバーの設定を貼り付けるだけで、読み込んだモデルがそのツール群を認識して呼び出せるようになる。自作のエージェントに外部ツールを持たせたい場合、コードを書かずにこの画面から設定できるのは大きな利点だ。

LM StudioとOllama、何が違うのか

ローカルLLMツールとしてよく比較されるのがOllamaだ。両者は多くの機能で重なるが、狙いが異なる。

比較項目 LM Studio Ollama
操作方法 GUI中心、クリックだけで完結 CLI中心、ターミナル操作が基本
対応形式 GGUF・MLX(Apple Silicon高速化) GGUF系(独自Modelfile形式)
Docker親和性 低い(デスクトップアプリ完結) 高い(コンテナ環境への組み込みが容易)
速度傾向 同条件でOllamaよりやや遅いとの報告あり 同条件でLM Studioよりやや速いとの報告あり
向いている人 GUI派、Macでの高速化を求める人 ターミナル派、本番のコンテナデプロイをしたい人

実測比較(Llama 3.1 8B、RTX 4090環境)では、Ollamaが毎秒78トークン、LM Studioが毎秒64トークンという報告例もあるが、体感できるほどの差ではないとされ、最終的にはUIの好みで選んで問題ない。

よくあるトラブルと対処法

つまずきやすいポイント

  • 新しいモデルが読み込めない:LM Studioは推論エンジン(ランタイム)をアプリ本体とは別に更新できる。新しいモデルアーキテクチャへの対応はまずランタイム更新で降りてくることが多いため、Macは「⌘+Shift+R」、Windows/Linuxは「Ctrl+Shift+R」でランタイム管理を開き、最新化されているか確認する。
  • 回答が不自然、テンプレートと合っていない:プロンプトテンプレート(チャットテンプレート)の不一致が原因であることが多い。GGUFのメタデータから自動検出されるのが基本だが、カスタムモデルや誤ってタグ付けされたモデルでは手動での上書きが必要な場合がある。
  • 動作が重い・応答が遅い:量子化レベルを一段階下げる(例:Q5_K_MからQ4_K_Mへ)か、コンテキスト長の設定を短くすることで改善することが多い。VRAMに収まりきっているかも確認したい。

商用・業務利用時の注意点

個人の学習・検証目的であれば、LM Studio自体の利用も、Apache 2.0ライセンスのQwen3.6やGemma 4の利用も、特別な制約なく進められる。一方、業務に組み込む場合は次の点を確認しておきたい。

  • LM Studio自体の商用利用は公式の承認制であり、事前に利用申請が必要になる場合がある
  • モデルによってライセンスが異なる(Apache 2.0は改変・再配布ともに自由、MITベースのモデルには利用規模に応じた表示義務が付くケースもある)
  • 機密性の高い社内データを扱う場合、ローカル実行そのものが外部への通信を発生させない点は大きな利点になるが、モデルの出力品質・日本語精度は本番導入前に自社データで検証すべきだ

さらに先へ進みたい人向け:ファインチューニングの入口

チャットでの利用に慣れてきたら、次のステップとして自社データによるファインチューニングという選択肢もある。Qwen3.6やGemma 4のようなオープンウェイトモデルは、LoRA(Low-Rank Adaptation)という手法を使うことで、フルファインチューニングの数十分の一のGPUメモリで特定タスクに特化させることができる。さらに量子化と組み合わせたQLoRAという手法を使えば、単一のGPUでも現実的な時間でファインチューニングを完了できる場合がある。この領域はLM Studio単体の機能ではなく、Unslothのような専門ツールと組み合わせて進めることになるため、まずは本記事のチャット利用に十分に慣れてから挑戦するのがよいだろう。

まとめ

LM Studioを使えば、ターミナル操作に不慣れな人でも、GUI操作だけで最新のオープンウェイトモデルを自分のPCで動かせる。重要なのは、自分のPCのVRAM/RAM容量を把握した上で、量子化レベルとモデルサイズを選ぶことだ。まずは手元のハードウェアに合ったモデルを1本ダウンロードしてチャットを試し、慣れてきたらOpenAI互換APIとして自作ツールに組み込む、という順番で進めるのが挫折しにくい。ChatGPTやClaudeの完全な代替にはならなくても、「自分のPCだけでここまで動くのか」という体験は、AIの仕組みを理解するうえでも価値がある。

よくある質問

Q. GPUを持っていないPCでも動かせますか?

A. CPUのみでも動作はするが、実用に耐える速度が出ないケースがほとんどだ。NVIDIAのGPU、またはApple SiliconのMacを推奨する。どうしてもCPUのみで試したい場合は、E2B/E4Bのような小型モデルの低ビット量子化版から試すとよい。

Q. LM StudioとOllama、どちらを選ぶべきですか?

A. GUI操作でクリック中心に使いたいならLM Studio、ターミナルでの操作に慣れておりDockerネイティブな構成を組みたいならOllamaが向いている。速度面では同条件下でOllamaがわずかに高速という報告もあるが、体感差は小さく、UIの好みで選んで問題ない。

Q. GLM-5.2は個人のPCでも動かせますか?

A. フル精度での稼働にはH100クラスのGPUを8枚程度搭載した構成が目安になり、個人PCでの現実的な選択肢ではない。ただし低ビット(2〜4bit)に量子化したGGUF版であれば、大容量メモリを積んだ環境で単一マシン推論を試すことは可能とされている。精度と引き換えのトレードオフがある点は理解しておきたい。

Q. 日本語の精度はどのモデルが良いですか?

A. QwenやGemma系の大型パラメータモデルは比較的安定した日本語を出力しやすいとされるが、要約や翻訳など特定タスクでは日本語特化のチューニング済みモデルの方が実務品質に達しやすい傾向がある。同じプロンプトで複数モデルを試し、文体の自然さや事実精度を比較して選ぶのが実践的だ。

Q. マルチモーダル(画像・音声)を使うには何が必要ですか?

A. Gemma 4のようにネイティブでマルチモーダルに対応したモデルを選んだ上で、画像・音声処理に対応した最新版のllama.cppおよびmmproj対応のGGUFファイルが必要になる。対応が追いついていないバージョンでは画像入力が機能しないことがあるため、モデルカードに記載された動作要件を確認してから導入するとよい。

よかったらシェアしてね!
  • URLをコピーしました!
  • URLをコピーしました!
目次