【2026年版】PCスペック別、おすすめローカルLLMガイド
2026-08-22 ／ AI、ローカルLLM
「ローカルLLM、興味あるけど結局どのモデル選べばいいの？」ってなりません？
Hugging Faceを覗くと同じモデル名でも Q4_K_M Q8_0 FP16 みたいな謎の記号が並んでいて、最初は完全に迷子でした。
この記事では、「自分のPC/Macのメモリ量」を起点に、じゃあどのモデルを選べばいいかを早見表にまとめます。ベンチマーク自慢がしたいわけではなく、あくまで「これから始める人が最短で沼を抜けられる」ことを目的にしています。
前提知識：2つだけ覚えればいい
① パラメータ数(モデルの大きさ)
「7B」「14B」「32B」のBは billion(10億)の略で、モデルが持つパラメータの数です。ざっくり「数字が大きいほど賢いが、重い」と思っておけばOK。
② 量子化(quant)
本来のモデルは16bit(FP16)や32bit(FP32)という精度の数値で動きますが、これをもっと粗い精度(4bitなど)に圧縮したものが「量子化モデル」です。
- サイズが1/2〜1/4になる(=必要メモリが減る)
- 引き換えに精度は多少落ちる
- 実用上は
Q4_K_Mくらいが「体感の劣化はほぼ気にならないのに、サイズはしっかり縮む」ちょうどいい落としどころ、というのが今のところの相場観です
なので「32Bのモデル」と言っても、量子化次第で必要メモリは全然変わります。目安として、量子化後のファイルサイズ＋α(数GB)が必要メモリだと考えてください。
スペック別・早見表(2026年8月時点)
ここからが本題です。各メモリ帯について、「現行モデルの中でどれが妥当か」「用途別に何を選ぶか」まで踏み込みます。
8GB帯(GPUなし・薄型ノート等)
3〜4Bクラスが現実的なラインです。7Bを無理に載せると、OSやランタイムに残るメモリが足りず不安定になりがちです。
| 用途 | おすすめモデル | ひとこと |
|---|---|---|
| 汎用・まず試す | Gemma 3 4B | Q8量子化でも4.5GB程度に収まり、この帯では質の良さが際立つ |
| コーディング寄り | Qwen3.5 4B | Q4量子化で3.4GB程度。コーディング・ツール利用・多言語に強め |
| 数学・論理パズル系 | Phi-4 Mini | 小型ながら論理・数式に強いタイプ |
16GB帯(Apple Silicon統合メモリ・ミドルGPU等)
12〜14Bクラスまで現実的に載る帯です。
| 用途 | おすすめモデル | ひとこと |
|---|---|---|
| 汎用・最有力候補 | Qwen3 14B | このサイズ帯では特に評価が高く、旧世代の大型汎用モデルに匹敵するという声も多い |
| バランス型 | Gemma 3 12B | 汎用性とサイズのバランスが良い定番枠 |
| 推論・思考過程重視 | DeepSeek-R1-Distill-Qwen-14B | 「考えてから答える」タイプの推論特化モデル |
24GB帯(VRAM搭載GPU)
24GBはMoE(後述)の恩恵も受けやすく、選択肢が急に広がる帯です。
| 用途 | おすすめモデル | ひとこと |
|---|---|---|
| コーディング最有力 | Qwen3.6-27B(dense) | 2026年4月公開・Apache 2.0。Q4量子化で16GB程度に収まりこの帯の本命の一つ |
| 汎用オールラウンド | Qwen3 30B-A3B(MoE) | 総パラメータ30Bのうち実働は約3B(MoE構造)。軽い実働負荷で総パラメータ相応の実力を出すため、速度と質の両立がしやすい |
| 比較検討したい人向け | Gemma 3系 / Mistral Small 3.2 24B / DeepSeek系 | いずれもこの帯の常連。得意分野が微妙に違うので、複数試して合うものを選ぶのもアリ |
48GB以上(統合メモリ機・ハイエンドGPU)
27B〜35Bクラスが日常使いできる帯。70Bクラスは技術的には載っても、実用速度としては64GB以上が現実的というのが今のところの相場観です。
| 用途 | おすすめモデル | ひとこと |
|---|---|---|
| コーディング最有力 | Qwen3.6-27B(dense、Q6/Q8) | 48GB帯でのコーディング用途では特に評価が高い |
| バランス型オールラウンド | Qwen3.6-35B-A3B(MoE) | 総パラメータ35Bのうち実働は約3B。48GB帯の「本命」としてよく挙がるモデルで、後述する自分の選択もこれ |
| 汎用の別候補 | Qwen3.5-27B / Gemma系31B級 / Mistral Small 3.2 24B | いずれも48GB帯で日常使いできる現実的な選択肢 |
※パラメータ数・量子化の必要メモリはあくまで目安です。コンテキスト長や同時起動アプリの分は別途見ておくと安心です。数値は2026年8月時点のレビュー記事を参照していますが、この分野は数か月単位で入れ替わるので、実際に選ぶ時点の最新情報も確認してください。
自分の場合：Mac mini(M4 Pro / 48GB)+ Qwen3.6-35B-A3B
今回のMac移行に合わせて選んだのが、Mac mini(Apple M4 Pro・12コア・48GBメモリ)＋ Qwen3.6-35B-A3B(Ollama経由・Q4_K_M量子化)という組み合わせです。
ポイントは「35B」という数字だけ見ると重そうですが、これはMoE(Mixture of Experts)構造で、実際に動くパラメータは約3B相当しかないことです。おかげで48GBメモリの中でOS・他アプリの余裕を残しつつ、体感速度も悪くありません。上の早見表で「48GB帯の本命」として挙げたのもこのモデルで、実際にいくつかのレビューでもこの帯の筆頭候補として名前が挙がっていました。
用途としては、複数のAIエージェントにタスクを振り分ける仕組み(社内的には「qwen-bridge」と呼んでいる作業基盤)の中で、課金枠を消費しない「local」担当としてQwenを起用しています。クラウドAPIの枠を使い切ってしまいそうな軽めのタスクをローカルに逃がす、という役割分担です。
まとめ
- まず自分のPC/Macのメモリ量を確認する
- 早見表を目安に、その帯の現行モデルから用途に合うものを選ぶ
- 「同じB数でもMoEかdenseかで必要メモリの実感は変わる」ことを覚えておく
- 量子化は基本
Q4_K_Mから試すのが無難 - 「動くか不安」なら、まず小さいモデルで体験してから徐々に上げていくのがおすすめです
ローカルLLMは環境構築さえ乗り越えれば、あとは自分のPC次第でいくらでも遊べる領域です。まずは自分のスペックに合ったモデルから触ってみてください。