手元のマシンで動かす LLM（ローカル LLM）は、2026年に入って選択肢が大きく入れ替わりました。 Google の Gemma 4、Alibaba の Qwen3.8、DeepSeek の V4 が出た一方で、かつての定番だった Llama は新しいオープンモデルを出していません。 この記事では、2026年10月末の時点で重みが公開されている主なモデルを、手元で動かせるかどうかという観点で整理します。
ベンチマークの数値はほとんどが開発元の自己申告なので、ここでは載せていません。 各モデルの性格、サイズ、ライセンス、必要なメモリの目安に絞ります。
選ぶ前に押さえておく3つの軸
ローカル LLM の選定で最初に効くのは、性能の順位よりもメモリに載るかどうかです。 重みを 4bit 程度に量子化すると、必要なメモリはおおむね「パラメータ数（B）× 0.6」GB になります。 27B のモデルなら 16GB 前後で、これに会話の長さに応じたキャッシュの分が加わります。
次に効くのが、Dense と MoE（Mixture of Experts）の違いです。 Dense のモデルは、1トークンを生成するたびに全パラメータを計算します。 MoE のモデルは、多数の「専門家」のうち一部だけを使うので、計算量はアクティブパラメータの数で決まります。 たとえば「35B-A3B」は、総パラメータが 35B で、1トークンあたり 3B だけが動くという意味です。 メモリは総パラメータの分だけ必要ですが、生成速度は 3B のモデルに近くなります。 メモリに余裕があって速度が欲しいなら MoE、メモリが限られていて賢さを優先するなら Dense が向きます。
最後がライセンスです。 Apache 2.0 や MIT なら商用でもほぼ自由に使えますが、独自ライセンスのモデルは条件が付きます。 同じシリーズでもサイズによってライセンスが違うことがあるので、使う重みのモデルカードで確認する必要があります。
個人のマシンで動く主なモデル
Qwen3.8-27B と Qwen3.6-35B-A3B（Alibaba）
いま個人のマシン向けに最も名前が挙がるのが Qwen です。 2026年8月14日に公開された Qwen3.8-27B は、27B の Dense モデルで、画像も入力できます。 コンテキスト長は標準で 262,144 トークンあり、1,000,000 トークンまで拡張できます。 4bit 量子化なら 24GB 級の GPU や 32GB の Mac で動かせる大きさです。
速度を優先するなら、4月に出た Qwen3.6-35B-A3B が候補になります。 アクティブパラメータが約 3B の MoE なので、メモリさえ 24GB 程度あれば、同じクラスの Dense モデルより明らかに速く応答します。
Qwen3.8 には 2.4T-A95B という巨大なモデルもありますが、こちらは個人のマシンで動く大きさではありません。 ライセンスもサイズごとに異なると報じられているので、Hugging Face 上の各モデルのライセンスファイルを確認してから使ってください。
Gemma 4（Google）
2026年4月に公開された Gemma 4 は、Google のオープンモデルで初めて Apache 2.0 で配布されています。 サイズは 4種類あり、用途がはっきり分かれています。
- E2B と E4B：スマートフォンや Raspberry Pi で動かすことを想定した小型モデル。画像と動画に加えて音声も入力でき、コンテキスト長は 128K。
- 26B MoE：総パラメータ 26B のうち、動くのは約 3.8B。軽さと賢さの釣り合いがよい。
- 31B Dense：シリーズで最も賢いモデル。コンテキスト長は 26B とともに最大 256K。
小型モデルで音声入力まで扱えるのは、ほかのシリーズにはない特徴です。 ノート PC で常駐させたいなら E4B、デスクトップで本格的に使うなら 26B MoE か 31B が目安になります。
gpt-oss-20b と gpt-oss-120b（OpenAI）
OpenAI が 2025年8月に公開した推論モデルで、ライセンスは Apache 2.0 です。 重みの大半があらかじめ MXFP4（約 4.25bit）で量子化された状態で配布されているので、ダウンロードしたものがそのまま小さく動きます。 20b はメモリ 16GB のマシンで動き、120b は 80GB の GPU 1枚に収まります。 コンテキスト長はどちらも 128K です。
2026年10月時点で、OpenAI から後継のオープンモデルは公式に発表されていません。 1年以上前のモデルですが、16GB で動く推論モデルとしてはいまも定番です。
日本語に強いモデル（Swallow、LLM-jp）
日本語の文章を扱うなら、国内の研究機関が日本語で追加学習したモデルが選択肢に入ります。
東京科学大学と産総研の Swallow プロジェクトは、2026年2月20日に Qwen3 Swallow（8B、30B-A3B、32B）と GPT-OSS Swallow（20B、120B）を公開しました。 それぞれ Qwen3 と gpt-oss をもとに日本語のデータで追加学習したもので、ライセンスは Apache 2.0 です。 元のモデルと同じサイズで動くので、上で挙げた gpt-oss-20b の代わりに GPT-OSS Swallow 20B を使う、という置き換えがしやすくなっています。
国立情報学研究所（NII）は、2026年9月28日に LLM-jp-4.1 を公開しました。 8B、32B-A3B（MoE）、33B の3種類で、いずれも推論過程を出力する thinking 型、ライセンスは Apache 2.0 です。 学習データから開発まで国内で行っているモデルなので、出自を説明しやすいことが利点になります。
サーバー級のマシンが必要なモデル
ここからは、重みは公開されていても、個人の PC にはまず載らないモデルです。 社内の GPU サーバーや、メモリを大量に積んだワークステーションで動かすことを前提にしています。
DeepSeek V4 は 2026年4月24日にプレビューとして公開され、ライセンスは MIT です。 小さいほうの V4-Flash でも総パラメータ 284B（アクティブ 13B）あり、重みは FP4 と FP8 の混合で 150GB を超えます。 アクティブが 13B と小さいので、メモリさえ確保できれば Mac Studio のような大容量メモリのマシンでも実用的な速度が出る可能性があります。 上位の V4-Pro は 1.6T（アクティブ 49B）で、完全にサーバー向けです。 どちらもコンテキスト長は 1M トークンです。
Z.ai（旧 Zhipu AI）の GLM-5.2 は、総パラメータ 753B、コンテキスト長 1M、ライセンスは MIT です。 コーディング性能の高さで評価されていて、llama.cpp 向けの量子化版も出回っています。
Mistral は 2026年10月29日に Mistral Large 4 の重みを公開しました。 総パラメータは約 1T で、リポジトリ名からはアクティブが約 52B と読み取れます。 ライセンスは「Mistral Ecosystem Open-Weight license」という MIT の改変版で、モデルを API として提供する事業には別途ライセンスが必要です。 Mistral はこのモデルを、コーディングとサイバーセキュリティに強いオープンモデルと位置づけています。
新しいモデルが出ていないシリーズ
かつてローカル LLM の代名詞だった Meta の Llama は、2025年4月の Llama 4（Scout、Maverick）以降、新しいオープンモデルを出していません。 Meta は 2026年4月に独自の Muse Spark を発表しましたが、こちらは重みを公開しないクローズドなモデルです。 既存の Llama は引き続き使えますが、2026年に新しく選ぶ理由は少なくなりました。
Microsoft の Phi シリーズも、Phi-5 は 2026年10月時点で公式には出ていません。 小型モデルを探しているなら、いまは Gemma 4 の E2B や E4B が代わりの候補になります。
メモリ別の候補
4bit 量子化を前提にした、おおまかな目安です。 長い会話や長い文書を扱うと、キャッシュの分だけ必要なメモリが増えます。
- 8GB 前後：Gemma 4 E4B、Gemma 4 E2B
- 16GB：gpt-oss-20b、GPT-OSS Swallow 20B、Qwen3 Swallow 8B、LLM-jp-4.1-8B
- 24〜32GB：Qwen3.8-27B、Qwen3.6-35B-A3B、Gemma 4 26B MoE と 31B、Qwen3 Swallow 32B、LLM-jp-4.1 の 32B-A3B と 33B
- 64〜128GB：gpt-oss-120b、GPT-OSS Swallow 120B
- 192GB 以上：DeepSeek V4-Flash
- サーバー：DeepSeek V4-Pro、GLM-5.2、Mistral Large 4
迷ったときの出発点を挙げるなら、16GB のマシンでは gpt-oss-20b、24GB 以上なら Qwen3.8-27B です。 日本語の文章を中心に扱うなら、同じ枠の Swallow 版や LLM-jp-4.1 を並べて試すのがよいでしょう。
動かすためのソフトウェア
モデルの重みは、それを動かすソフトウェアと組み合わせて使います。
- llama.cpp：GGUF 形式の量子化モデルを CPU と GPU で動かす実行エンジン。主要なモデルの GGUF 版は公開から間もなく出回る。
- Ollama：コマンド一つでモデルの取得と起動ができるツール。API サーバーとしても使える。
- LM Studio：GUI でモデルを探して試せるデスクトップアプリ。
- MLX：Apple Silicon 向けの機械学習フレームワーク。Mac ではこれを使う実行環境が速い。
- vLLM、SGLang：複数の利用者に同時に応答するサーバー向けの推論エンジン。
個人で試すだけなら、Ollama か LM Studio から始めるのが手軽です。
情報の鮮度について
この記事は 2026年10月31日時点の情報です。 ローカル LLM は数か月で主役が入れ替わる分野で、この記事の中でも、半年前の定番（Qwen3.6、Llama 4）がすでに次の世代に置き換わりつつあります。 サイズやライセンスは各社の公式発表とモデルカードで確認しましたが、実際に使う前には、使う重みのモデルカードをもう一度確認してください。
参考にした主な公式情報：