軽いモデルを試す入口
小さな量子化LLMや軽い画像生成から始める容量です。機能、解像度、同時処理数を抑える場面が増えます。
VRAM 8GB以上を検索自作PC攻略 02 パーツ選び／GPU
解説べんぞ～
生成AI向けGPUの性能・VRAM比較
生成AIでは、速いGPUでもモデルがVRAMへ収まらなければ、そのままでは実行できません。最初に使うモデルやアプリの必要VRAMを満たし、その中でtokens/sや秒/枚を比べましょう。
最初に
生成AI用GPUは、容量から速さの順で見ましょう
VRAM不足と処理速度の遅さは別の問題
- 1使うモデルとアプリを決める
アプリの公式要件、モデル配布ページ、同じ設定の利用例から、モデル名、量子化、画像解像度、同時処理数と実測VRAM使用量を書き出しましょう。
- 2必要VRAMを満たすGPUへ絞る
VRAMへ収まらない場合は、実行できない、システムメモリへ退避して急に遅くなる、機能を減らす必要がある、といった違いが出ます。
- 3同じモデル・実行方式の速さを比べる
文章生成はtokens/s、画像生成は秒/枚などを使います。モデルやバックエンドが違う測定値は、同じ表の順位として混ぜないようにしましょう。
生成AIの実測性能を確認しましょう
文章生成と画像生成を切り替えて比較
NVIDIAAMDIntel棒が長いほど文章の生成が速い
VRAM容量は、動かしたいモデルから決めましょう
容量が多いほど必ず速いわけではありません
ゲーム兼用でも選びやすい
8GBよりモデルや画像生成設定へ余裕を持てます。ただし、使うモデル・量子化・解像度と同じ条件の実測VRAM使用量が12GB未満の場合だけ候補にしましょう。
VRAM 12GB以上を検索ローカル生成AIの有力な出発点
UL Procyonの重いSDXLテストでは実行方式により10～16GBを要求し、MLPerf Clientの長い入力も16GBを基準にします。
VRAM 16GB以上を検索大きいモデルや作業量へ余裕
より大きな量子化LLM、長い文脈、高解像度画像、複数機能の併用で選択肢が増えます。用途によっては32GB以上や複数GPUも検討します。
VRAM 24GB以上を検索この容量区分は購入候補を整理する入口です。同じモデルでも量子化、コンテキスト長、画像解像度、追加機能、実行アプリにより必要VRAMは変わります。
測定条件と参照先
違う条件の数字を同じ順位へ混ぜないために明記しています
文章生成の測定値
MLPerf Client 1.0の2つ目以降のトークン生成速度です。トークンは、AIが文章を処理する文字や単語の断片です。IntelはOpenVINO、NVIDIA・AMDはONNXを使用したPuget Systemsの同一テスト結果を転記しています。
2025 Consumer GPU Content Creation Roundup画像生成の測定値
SD.Next、SDXL Base 1.0、512×512、50 steps、SDPAで測定された秒/枚です。枚/分は秒/枚から換算しています。
GeForce RTX 5090 & 5080 AI Reviewベンチマークの意味
MLPerf Clientは文章生成の初回応答時間とtokens/s、画像生成の枚/分など、PC上の生成AI処理を共通条件で測る仕組みです。
MLCommons MLPerf Client画像生成の必要容量
UL ProcyonはStable Diffusion 1.5とSDXLを、解像度・ステップ数を固定して測定します。実行方式ごとの最低VRAMも公開されています。
UL Procyon AI Image Generation内蔵GPUのメモリ割当
AMD Variable Graphics Memoryは、対応する内蔵GPUへシステムメモリの一部を割り当てる仕組みです。単体グラフィックボードのVRAM増設とは区別します。
AMD Variable Graphics Memoryこのページは生成処理で使う「推論」の比較です。AIモデルを一から作る学習・追加学習では、必要VRAM、精度、複数GPUの扱いが別になります。また、ドライバーやアプリの更新で順位と速度は変わります。
生成AI用GPUを決める時
対応ソフトとVRAMを満たしてから、実測速度を比べる
GPU PassMarkやAI TOPSだけでは、使うモデルが動くか、実際のアプリで速いかまでは決まりません。モデル・実行方式・必要VRAMをそろえた測定値を優先しましょう。
GPUの選び方へ戻る