ローカルAI向けPCのスペックを決める前提

ローカルAIには、文章生成や要約を行うローカルLLM、指示文から画像を生成する画像生成AI、音声を文字へ変換する音声認識AIなどがあります。必要なパーツとスペックは、使用するAIの種類やAIモデルによって変わります。本記事では、文章生成に使うローカルLLMを主に扱います。

ローカルAIに必要なのはGPUとVRAM

ChatGPTやCopilotなどのクラウドAIは、AIの処理を外部のサーバーで行うため、PC側に高性能なGPUがなくても利用できます。一方、ローカルAIはAIモデルの計算を自分のPCで行うため、GPUの性能と、GPUに搭載されたメモリであるVRAMの容量が快適さを大きく左右します。

「AI PC」という言葉は、AI処理向けのNPUを備えたPCを指して使われることもありますが、ローカルLLMや画像生成AIをGPUで動かす場合、NPUの有無よりもGPUとVRAMの条件が重要です。AI PCを選ぶときも、クラウドAI中心で使うのか、ローカルAIまで動かすのかで、確認すべきスペックが変わります。

ドスパラのAI PCページでは、クラウドAI中心の方向けとローカルAIも使う方向けに分けて、それぞれに適したモデルと選び方を紹介しています。

AI PC（パソコン）おすすめと選び方｜クラウドAI・ローカルAI別に紹介

ローカルLLMでは「学習」で作られたAIモデルが「推論」で回答を生成する

AIモデルは、多くのデータを使った「学習」によって作られます。学習を終えたAIモデルには、文章や画像の特徴を表す多数の数値が保存されています。

ローカルLLMを利用する場合は、配布されている学習済みのAIモデルをPCへ保存し、実行ソフトで読み込みます。そのAIモデルへ質問や指示を入力し、回答を生成させる処理が「推論」です。チャット、要約、翻訳、コード生成などが推論にあたります。

AIモデルを一から作る学習や、既存のAIモデルを追加データで調整するファインチューニングには、一般的に推論より多くのVRAM、メモリ、処理時間が必要です。本記事では、配布されている学習済みのAIモデルを使って推論する場合のスペックを扱います。

AIモデルをPCで動かすには実行ソフトが必要

ローカルLLMでは、Llama、Qwen、Gemmaなどの学習済みモデルをPCへ保存して使用します。ただし、AIモデルは文章生成に必要な数値データを持つファイルであり、モデル単体ではチャットや要約を実行できません。

AIモデルをPC上で動かすには、モデルを読み込んで推論を実行するソフトが必要です。代表的なものにOllama、LM Studio、llama.cppなどがあります。モデルと実行ソフトはどの組み合わせでも使えるわけではないため、モデルの配布形式を実行ソフトが読み込めるか、使用するOSやGPUで動作するかを、実行ソフトの公式情報で調べます。

ローカルLLMは、PC内に保存した資料を回答へ反映させる使い方にも利用できます。代表的な仕組みが「RAG（検索拡張生成）」です。質問に関連する箇所を資料から検索し、その内容を質問と一緒にLLMへ渡すことで、モデル自体を学習し直さずに資料の内容を回答に反映できます。

モデルの規模と設定によって必要な容量が変わる

LLMの規模は「パラメータ数」で表されます。7Bは約70億、14Bは約140億のパラメータを持つモデルであることを示し、一般的にパラメータ数が多いほど、保存や実行に必要な容量も大きくなります。

このパラメータの数値を、より少ないビット数で表してモデル容量を小さくする方法が「量子化」です。量子化すると必要なVRAMを抑えられますが、方式や程度によって生成品質や速度への影響が異なります。

さらに、LLMが一度に参照できる文章量を「コンテキスト長」と呼びます。コンテキスト長を長くすると、より長い文書や会話を参照できる一方、処理中に必要なメモリも増えます。使用するモデルを決めたら、パラメータ数、量子化方式、コンテキスト長を確認し、必要なVRAM容量を見積もります。

画像生成AIはLLMと必要容量の考え方が異なる

Stable Diffusion系などの画像生成モデルも、ローカル環境で実行できます。入力した指示文をもとに画像を生成し、モデルや追加データを切り替えることで、画風や被写体、生成方法を調整できます。

画像サイズ、同時に生成する枚数、使用するモデル、追加モデル、ワークフローによってVRAM使用量が変わるため、LLMのパラメータ数だけで必要容量を判断することはできません。利用する画像生成ソフト、モデル、解像度、拡張機能を組み合わせて確認します。

画像生成AI（Stable Diffusion）推奨PCの選び方｜快適さはVRAM容量で変わる

GPUとVRAMが重要な理由

ローカルAIの推論でGPUが重要な理由

AIモデルの推論では、多数の計算を繰り返します。GPUは多くの計算を同時に処理しやすいため、利用条件を満たす実行ソフトを使えば、CPUだけで処理するより生成を高速化しやすくなります。このため、ローカルAI向けPCでは、使用するモデルに対応するGPUと、必要なデータを収めるVRAM容量が構成の中心になります。

GPUでローカルLLMを動かすには、実行ソフトがGPUを認識し、モデルの計算をGPUへ割り当てられる必要があります。GPUを利用できない構成では、CPUで処理されるか、モデルを実行できない場合があります。

モデルの重みと処理中のデータをVRAMへ置く

GPUでLLMを動かすときは、モデルが学習によって獲得した数値データである「重み」を、主にVRAMへ読み込みます。推論中は重みに加えて、入力した文章と生成済みの文章を参照し続けるためのデータもVRAMに保持します。この保存領域を「KVキャッシュ」と呼びます。

さらに、計算途中の一時データや実行ソフトが使う領域も必要です。そのため、ダウンロードしたモデルファイルがVRAM容量内に収まっていても、そのままGPUだけで動かせるとは限りません。

KVキャッシュの使用量は、一度に参照する文章量、モデルの構造、データの精度、同時に処理する件数などで変わります。長い文章を入力・生成するほど、同じモデルでも必要なVRAMが増える場合があります。

VRAMに収まらないモデルも動かせる場合がある

実行ソフトによっては、モデル全体をVRAMへ読み込まず、一部をVRAM、残りをPCのメモリ（RAM）へ置いて処理できます。llama.cppを利用するソフトなどが対応している方法で、モデルの処理をGPUとCPUへ振り分けることを「オフロード」と呼びます。

この方法ではVRAM容量を超えるモデルも実行できる可能性がありますが、モデル全体をGPUで処理する場合より生成速度は低下します。さらにRAMも不足すると、Windowsの仮想メモリなどを介してSSDが使われる場合があり、生成速度が大きく低下したり、モデルを読み込めなかったりする原因になります。RAMの増設は実行できるモデルの範囲を広げる手段ですが、VRAMを増やす場合と同じ速度を得られるわけではありません。

VRAM容量やGPU価格だけでは決められない

VRAM容量が増えると選べるモデルや設定の幅が広がります。一方、生成速度にはGPUの演算性能やメモリ帯域も影響します。また、GPUをAIの計算に利用するには、OS、ドライバー、実行ソフト、GPUの処理基盤が対応している必要があります。

GPUを選ぶ順序は「用途を決める → モデルと実行ソフトを決める → 対応するGPUを絞り込む → 必要なVRAM容量を見積もる → 価格・消費電力・搭載条件を比較する」です。何を、どのソフトで、どのOS上で動かすかを先に決めてから、VRAM容量と価格を比較しましょう。

AIモデル規模別のスペック目安

ローカル環境では、モデル内の数値を簡略化してファイル容量と必要メモリを減らした「量子化モデル」がよく使われます。次の表は、その代表例である4bit量子化モデルを、自分のPCで1回に1人が文章生成へ使う場合の目安です。

表の「Q4重みの概算」は、モデルの数値を主に4bitで保持した場合の単純計算を基にしています。実際のファイル容量は量子化方式やモデル構造によって変わり、実行時にはKVキャッシュなどの領域も加わります。表の数値は動作保証ではなく、候補となる構成を絞り込むための目安として使用してください。

※上記は製品やモデルの動作保証ではありません。モデルの形式、量子化方式、コンテキスト長、GPUへ載せるレイヤー数、OS・常駐アプリの使用量で変わります。

この目安を満たすPCを完成品から探す場合

使いたいモデル規模とVRAM容量の目安が決まったら、その条件を満たすPCを探します。ドスパラのAI PCページでは、ローカルAI向けのモデルをVRAM容量やGPU性能の違いで紹介しているほか、「UL Procyon AI Text Generation Benchmark」で計測した実測値をもとに、GPUによる応答速度の差を比較できます。表の目安とあわせて、どのくらいの速さで動くかを確認したい場合に活用してください。

ローカルAI向けおすすめPCとベンチマーク比較を見る

SSD容量はモデルファイルの合計から決める

SSDには、モデル本体、実行ソフト、生成物、追加モデルや埋め込みモデルなどを保存します。1モデルのサイズだけでなく、比較のために残す量子化違い、更新前後のモデル、画像生成用モデルも含めて見積もります。

軽量なLLMを少数試すだけなら数十GBの空き容量から始められますが、複数のLLMや画像生成AIを併用すると数百GBを使う場合があります。必要なSSD容量は、保存するモデルファイルの合計に、ダウンロードや更新、生成物を保存するための空き容量を加えて決めます。

パーツ別の選び方

ここからは、ローカルAI向けPCの構成をパーツごとに確認します。完成品を選ぶ場合も、各パーツのスペック欄を見るときの判断基準として使えます。

グラフィックボードはVRAMとソフトウェア対応を確認する

まず、実行ソフトの公式情報から、使用するGPUとOSで動作するかを調べます。ここで調べられるのは、主に利用できるGPU製品、OS、CUDAやROCmなどの処理基盤です。必要なVRAM容量は、使用するモデルのファイル容量やコンテキスト長から別に見積もります。

処理基盤は、実行ソフトとGPUの間をつなぎ、GPUへ計算内容を伝える仕組みです。CUDAは、NVIDIA製GPUをAIなどの計算に利用するための開発・実行基盤で、多くのAIソフトウェアが利用しています。AMD製GPUでは、AI計算向けのROCmや、幅広いGPUで計算処理に利用できるVulkanなどが使われます。利用できるGPU製品やOSは処理基盤ごとに異なるため、グラフィックボード、OS、実行ソフトの組み合わせを公式情報で確認します。

候補が複数ある場合は、必要なVRAM容量を確保したうえで、演算性能、メモリ帯域、消費電力、価格のバランスから比較します。たとえば、VRAM 12GBを搭載するRadeon RX 9070 GREは、一部の12B～14B級量子化モデルを検討できる候補の一つです。ただし、利用できるかはOSと実行ソフトの対応状況も確認します。

Radeon RX 9070 GRE搭載グラフィックボードを見る

メモリはモデルとOS・アプリの合計で決める

メインメモリは、CPU推論、GPUへ載せきれない部分のオフロード、モデル読み込み時の処理などに使われます。必要容量を考えるときは、モデルだけでなくOS、ブラウザー、開発環境、RAG用アプリなどの使用分も残します。

7B～8B級を軽く試す構成では16GBから動く場合がありますが、ほかのアプリを併用するなら32GBのほうが余裕を確保しやすくなります。27B～32B級のオフロードや複数アプリの併用では64GB以上も検討します。増設する場合は、マザーボードの最大容量、空きスロット、CPUの対応規格、既存メモリとの組み合わせを確認します。

メモリ32GBでローカルAIを動かす目安

メモリ64GBで70Bモデルを動かす条件

SSDは容量を優先し、読み込み時間も考慮する

SSDの速度は、モデルの初回読み込みや切り替えに影響します。一方、生成中の主なボトルネックはGPU・VRAM・メモリなどであり、高速なNVMe SSDへ交換しても生成速度そのものが比例して上がるわけではありません。

まず必要容量を決め、SATA SSDかNVMe SSDか、M.2スロットの対応規格と空き、発熱対策を確認します。複数モデルを保持するなら、OS用とは別にAIモデル用のSSDを用意すると容量管理や移行がしやすくなります。

CPUはGPUへ載せない処理とPC全体の操作性に関わる

GPUへモデル全体を載せる構成でも、モデルの読み込み、トークン処理の一部、RAGの前処理、アプリの実行などでCPUを使います。CPU推論や大きなオフロードを行う場合は、コア数、メモリ帯域、対応する命令セットも速度に影響します。ただし、GPU推論が中心なら、CPUだけを上位製品へ交換してもVRAM不足は解消しません。

電源・マザーボード・ケース・冷却もあわせて確認する

構成が決まったら選ぶ3つの方法

必要なVRAM・メモリ・SSDの目安が決まったら、それを満たすPCを用意します。方法は大きく「完成品から選ぶ」「パーツから組む」「今のPCを増強する」の3つです。どれが適しているかは、構成を考える手間をどこまでかけられるか、将来どのくらい拡張したいかで変わります。

パーツ選びに時間をかけず始めるなら完成品から選ぶ

ローカルAIを早く試したい場合や、電源・ケース・冷却の組み合わせを一つずつ確認する時間を取りにくい場合は、ローカルAI向けの完成品から選ぶ方法が向いています。必要なVRAM容量を満たすGPUを搭載したモデルを選べば、この記事で解説した電源やケース寸法の確認も含めて構成が整った状態で使い始められます。

ドスパラのAI PCページでは、ローカルAI向けのモデルをノート・デスクトップ別に紹介していて、BTOパソコンのため注文時にメモリやSSDの容量を用途に合わせて変更できるモデルもあります。表の目安で決めたVRAM・メモリ・SSDの条件をもとに比較してみてください。どれを選べばよいか判断しにくい場合は、購入前の相談窓口も利用できます。

ローカルAI向けおすすめPCを見る（AI PCおすすめと選び方）

ドスパラ購入相談窓口

パーツ単位で構成を決めたいなら組み立てる

GPUやケースを好みで選びたい場合や、将来GPUの交換やメモリの増設を自分で行いたい場合は、パーツから組む方法も選択肢です。グラフィックボードを決めたら、電源ユニット、マザーボード、ケースがそのGPUに対応しているかを前章の表で確認してから購入します。組み立て作業に不安がある場合は、ドスパラのパソコン組立代行サービスを利用する方法もあります。

グラフィックボード一覧

パソコン組立代行サービス

今のPCで足りない部分だけ補うなら増強する

現在のPCにGPUを搭載できるスペースがあり、電源にも余裕がある場合は、不足しているパーツだけを交換・増設する方法があります。どのパーツが不足しているかは、次の章の手順で確認できます。

現在のPCを交換・増設する際の確認方法

1. 用途と実行ソフトを決める
   チャット、要約、コード生成などの目的と、推論か学習かを分け、Ollama、LM Studioなど使用予定のソフトを決めます。
2. モデルファイルと設定を決める
   使用するモデルのパラメータ数と量子化方式を選び、ダウンロードするモデルファイルの容量を調べます。長文を扱う場合は、使用するコンテキスト長も決めます。
3. 現在のGPU・VRAM・メモリ・空き容量を確認する
   Windowsではタスクマネージャーの「パフォーマンス」でGPUの専用メモリとメモリ容量を確認できます。SSDの空き容量はエクスプローラーから確認します。
4. GPUの利用条件を公式情報で調べる
   実行ソフトの公式情報で、GPU製品、OS、必要なドライバーと処理基盤を調べます。モデルを実行した後は、タスクマネージャーや実行ログを見て、計算がGPUへ割り当てられているかを確かめます。
5. 交換・増設の成立条件を確認する
   グラフィックボードなら電源・補助電源・ケース内寸、メモリなら規格・最大容量・空きスロット、SSDなら接続規格・空きスロットを確認します。

不足するパーツが複数ある場合は買い替えも比較する

GPUを交換するために電源とケースも交換が必要になるなど、不足箇所が複数ある場合は、部品代と作業の手間が積み重なります。交換するパーツを一式で見積もったうえで、同等の構成を備えた完成品の価格と比べてから判断しましょう。

ローカルAI向けおすすめPCと比較する

よくあるご質問（FAQ）

• Q1ゲーミング用のグラフィックボードでもローカルAIを動かせますか？

  実行ソフトが使用するGPUとOSで動作し、モデルと処理中のデータがVRAMへ収まれば利用できます。実行ソフトの公式情報でGPU・OS・処理基盤を調べたうえで、必要なVRAM容量をモデルと設定から見積もります。
• Q2ローカルAIを使うためにNPUは必要ですか？

  ローカルLLMや画像生成AIをGPUで動かす構成では、NPUは必須ではありません。NPUを使えるかはモデルとソフトウェア側の対応によります。Copilot+ PCの要件と、任意のローカルAIを動かすための要件は分けて考えます。
• Q3メモリを増やせばVRAM不足を補えますか？

  利用する実行ソフトによっては、モデルの一部をメインメモリへ置いて動かせます。ただし、GPUのVRAM内で完結する場合より遅くなりやすく、メモリ増設がVRAM増設と同じ効果になるわけではありません。
• Q4NVIDIAとAMDのどちらがローカルAIに向いていますか？

  メーカー名だけでは決まりません。NVIDIAはCUDAを利用するソフトが多く、AMDではROCmやVulkanを利用する方法があります。使用する実行ソフトの公式情報で、OSとGPU型番を利用できるか調べ、必要なVRAM容量と価格を比較します。
• Q5高速なSSDへ交換するとAIの生成速度も上がりますか？

  モデルの読み込みや切り替えは速くなる場合がありますが、生成中の速度は主にGPU、CPU、メモリ構成などに左右されます。SSDの世代だけを上げても、トークン生成速度や画像生成速度が比例して向上するとは限りません。
• Q6グラフィックボードを2枚にすればVRAM容量を単純に合算できますか？

  すべてのソフトウェアで自動的に合算できるわけではありません。複数GPUへのモデル分割に対応する実行環境と設定が必要で、GPU間の通信やPCIeレーン、電源、冷却も性能と安定性に影響します。
• Q7ローカルAI向けPCは、完成品とパーツから組むのとどちらがよいですか？

  どちらにも向き不向きがあります。電源やケースとの組み合わせまで整った状態ですぐに使い始めたい場合は完成品、パーツを自分で選び将来の交換も自分で行いたい場合は組み立てが向いています。必要なVRAM・メモリ・SSD容量の考え方はどちらも同じです。
• Q8ノートPCでもローカルAIは動かせますか？

  GPUを搭載し、使用するモデルに必要なVRAM容量を満たすノートPCであれば動かせる場合があります。ただし、ノートPC向けのGPUは同じシリーズ名でもデスクトップ向けとVRAM容量や性能が異なる場合があるため、製品ごとのVRAM容量を確認しましょう。大きめのモデルを長時間動かす場合は、冷却や電源に余裕を持たせやすいデスクトップが選びやすくなります。

まとめ

ローカルAI向けPCは、使用するモデルの規模、量子化方式、コンテキスト長、実行ソフトを先に決めることから始まります。そのうえで、モデルの重みと処理中のデータが収まるVRAM容量を見積もり、必要なメモリとSSD容量、CPU、電源やケースの条件を組み合わせます。

必要な構成が決まったら、完成品から選ぶ・パーツから組む・今のPCを増強するの3つから、手間と拡張性のバランスで選びましょう。まず条件に合うPCがどのくらいの性能・価格帯になるかを知りたい場合は、ローカルAI向けの完成品から比較するとイメージをつかみやすくなります。

ローカルAI向けおすすめPCを見る（AI PCおすすめと選び方）

パーツ単位で揃える場合や、今のPCを増強する場合は、各パーツの一覧から候補を確認できます。

グラフィックボード一覧はこちら

メモリ一覧はこちら

SSD一覧はこちら

あわせて読みたい関連記事・特集一覧

AI PC（パソコン）おすすめと選び方

メモリ32GBでローカルAIはどこまで動く？必要な容量の目安

メモリ64GBは必要？ローカルAIで70Bモデルを動かすための目安

画像生成AI（Stable Diffusion）向けPCの選び方

パソコン専門店ドスパラとは？