Google Cloud GPUマシンタイプ完全ガイド ~マシンタイプ解説~
NVIDIA Google Cloud GPU
Google Cloudで利用できるGPUマシンタイプの全体像を把握する
今回からGoogle Cloud GPUマシンタイプ完全ガイドをシリーズとして始めてみます。初回の今回は、Google Cloud上で利用できるGPUマシンのマシンタイプやスペックについて比較してみます。
このシリーズで学べることは以下になります。
- Google Cloudで利用できるGPUマシンタイプの全体像を把握する
- 旧世代のものから最新のBlackwell世代のものまで網羅
- ユースケースごとにどのGPUを選択すればいいか指針を提供
はじめに
生成AIをはじめとしてAI/MLの技術が発展してきた昨今、サービスの一機能としてそれらのモデルを提供することが一般的になってきました。AI/MLモデルをサービングしようと思うと、全てのモデルというわけではないですが、GPUの利用が必要になることが多いです。実際にGPUサーバを立てようとするときに、多数あるGPUの種類の中からどれが適しているか設計するのはとても大変です。
そこで、今回はGoogle Cloudを対象に、利用可能なGPUについて、マシンタイプを比較していこうと思います。
Google CloudにおけるGPU利用方法
Google CloudでGPUを使う方法は大別して以下の二つが挙げられます。
| 方式 | 説明 | 代表例 |
|---|---|---|
| 専用GPUマシンファミリー | GPU込みの固定構成のVM（またはベアメタル） | A3やG2など |
| N1+GPUアタッチメント | 汎用VMに対してGPUを後付け | n1-standardにT4をアタッチ |
専用GPUマシンファミリーを利用する場合、複数GPUを使う際にはNVLinkなどの高速通信技術が組み込まれたインフラを利用でき、大規模な分散学習をはじめとした高負荷なワークロードに対応することができます。
各マシンタイプの一次情報は、以下の公式ドキュメントが参考になります。
- GPU platforms（GPU マシンタイプ一覧）
- Accelerator-optimized machine family（アクセラレータ最適化ファミリー詳細）
- GPU regions and zones（GPU の提供リージョン/ゾーン）
N1+GPUアタッチメント方式では、柔軟なvCPU/メモリ構成が可能ですが、GPU間の通信はPCIeに依存するため、NVLinkを利用する場合に比較して遅い傾向があります。
:::message 一つ目と二つ目の方式は専用の画面で切り替えるというわけではなく、選択するGPUの種類によって自動的に切り替えられます。
例えば NVIDIA T4を選択するとn1タイプのマシンが、NVIDIA L4を選択するとg2タイプのマシンが選択されます。
N1にアタッチできるGPUは T4（16GB）、V100（16GB）、P100（16GB）、P4（8GB）です。なお K80 は 2024年5月1日にサポート終了しており利用できません。また P100 も 2026年9月15日にサポート終了予定で、それ以降は Compute Engine / GKE などで作成・利用ができなくなります（Google は T4 または L4 への移行を推奨。詳細は NVIDIA P100 end of support を参照）。また A100 は A2 ファミリー専用で N1 にはアタッチできません。
なお V100（Volta）と P4/P100（Pascal）は NVIDIA 側でも旧世代化が進んでおり、ドライバブランチ R580 がこれら Volta/Pascal 世代をサポートする最終系統とアナウンスされています。Google Cloud 公式の V100 サポート終了日は現時点で未告知ですが、これら旧世代 GPU は新規採用を避け T4 / L4 以降への移行を検討するのが無難です。 :::
GPUマシンのマシンタイプ解説
それでは早速、ファミリーごとに分けて紹介していきます！
以下は早見表になります！
| アーキテクチャ | 発表年 | 主な GPU | Tensor Core 世代 | 主な精度 | GCP シリーズ |
|---|---|---|---|---|---|
| Blackwell | 2024 | B200, B300, RTX PRO 6000 | 第5世代 | FP4/FP8/BF16 | A4X Max, A4X, A4, G4 |
| Hopper | 2022 | H100, H200 | 第4世代 | FP8/BF16 | A3 |
| Ampere | 2020 | A100 | 第3世代 | BF16/TF32 | A2 |
| Ada Lovelace | 2022 | L4 | 第4世代 | INT8/FP8 | G2 |
| Turing | 2018 | T4 | 第2世代 | INT8 | N1 アタッチ |
| Volta | 2017 | V100 | 第1世代 | FP16 | N1 アタッチ（旧世代） |
| Pascal | 2016 | P100, P4 | — | FP32 / FP16（Tensor Core 非搭載） | N1 アタッチ（旧世代） |
Blackwellファミリー
NVIDIA Blackwellとは？
NVIDIA Blackwell は 2024 年に発表された NVIDIA の最新 GPU アーキテクチャです。前世代 Hopper と比較して LLM トレーニング性能が最大 4 倍、FP4 推論スループットが最大 30 倍（H100 FP8 比）に向上すると NVIDIA は公表しており、大規模基盤モデルの学習・推論に特化した設計となっています（いずれも NVIDIA 公式のベンチマーク値であり、GCP 上の実測値ではありません）。
公式情報：NVIDIA Blackwell アーキテクチャ / GCP の Blackwell マシンタイプ（A4X・A4・G4）
主な特徴：
| 特徴 | 内容 |
|---|---|
| FP4 精度（第5世代 Tensor Core） | 業界初の FP4 サポート。LLM 推論スループットを前世代比で大幅向上 |
| NVLink 第5世代 | GPU 間帯域 1,800 GB/s（双方向/GPU）。前世代（900 GB/s）の 2 倍 |
| NVLink-C2C | GPU と Grace CPU を超高速ファブリックで直結（900 GB/s 以上）。PCIe の約 7 倍の帯域 |
| HBM3e メモリ | B200/B300 で採用。高帯域・大容量を実現（B200：8.0 TB/s） |
| GDDR7 メモリ | RTX PRO 6000 で採用。コスト効率の高い高速メモリ |
Blackwellファミリーマシンタイプ一覧
次にBlackwellファミリーのマシンタイプ一覧を見てみましょう。
| マシンタイプ | GPU | GPU 数 | GPU メモリ/枚 | CPU | vCPU | システムメモリ | ネットワーク | 主な用途 |
|---|---|---|---|---|---|---|---|---|
| A4X Max（a4x-maxgpu-4g-metal） | GB300（B300） | 4 | 279 GB HBM3e | NVIDIA Grace (Arm Neoverse V2) | 最大 144 | 最大 960 GB | 3,600 Gbps | 超大規模モデル推論・学習（ベアメタル） |
| A4X（a4x-highgpu-4g） | GB200（B200） | 4 | 186 GB HBM3e | NVIDIA Grace (Arm Neoverse V2) × 2 | 140 | 884 GB | 2,000 Gbps | エクサスケール学習（VM） |
| A4（a4-highgpu-8g） | B200 | 8 | 180 GB HBM3e | Intel Emerald Rapids | 最大 224 | 最大 3,968 GB | 3,600 Gbps | 大規模 LLM 学習・推論（VM） |
| G4（g4-standard-*） | RTX PRO 6000 Blackwell | 1/8〜8 | 96 GB GDDR7（フル GPU 時） | AMD EPYC Turin | 最大 384 | 最大 1,440 GB | 最大 400 Gbps | LLM 推論・グラフィックス・仮想デスクトップ |
A4X Max・A4X・A4 は現状それぞれマシンタイプが1種のみですが、G4 のみ fractional GPU を含む複数のサブタイプが提供されています。
| マシンタイプ | GPU 数 | GPU メモリ | vCPU | システムメモリ |
|---|---|---|---|---|
| g4-standard-6 | 1/8 | 12 GB | 6 | 22 GB |
| g4-standard-12 | 1/4 | 24 GB | 12 | 45 GB |
| g4-standard-24 | 1/2 | 48 GB | 24 | 90 GB |
| g4-standard-48 | 1 | 96 GB | 48 | 180 GB |
| g4-standard-96 | 2 | 192 GB | 96 | 360 GB |
| g4-standard-192 | 4 | 384 GB | 192 | 720 GB |
| g4-standard-384 | 8 | 768 GB | 384 | 1,440 GB |
G4 では fractional GPU（vGPU）に加え、1 枚の GPU を同一 VM 内で最大 4 つに分割する Multi-Instance GPU（MIG）も利用できます。ただし MIG は同一 VM 内の分割であり、fractional GPU のように VM 単位のマルチテナント分離を提供するものではありません。
また g4-standard-96 / g4-standard-192 / g4-standard-384 のような複数 GPU 構成では、GPU 間の直接 P2P 通信も利用できます。A シリーズのような NVLink / NVSwitch 構成ではありませんが、単一 VM 内で複数の RTX PRO 6000 を使う推論・チューニング用途では重要な特徴です。
:::message
fractional GPU 構成（g4-standard-6 / 12 / 24）は提供リージョンが限定されており、執筆時点では us-central1-b（米国アイオワ）のみで利用可能です。フル GPU 構成（g4-standard-48 以上）は多数のリージョンで利用できますが、fractional を使う場合はリージョン制約に注意してください。
:::
:::message A4X Max のみベアメタル、A4X と A4 は VM 形態です。また A4/A4X/A4X Max はそれぞれマシンタイプが1種のみで、1g/2g/4g のようなサブタイプはありません（G4 のみ上記の複数構成）。A4X の GPU 間接続は NVLink 第5世代（1.8 TB/s 双方向/枚）で、上記ネットワーク帯域は VM 間ネットワーク（最大 2,000 Gbps）を示しています。A4X Max はベアメタル構成のため VM とは運用特性が異なります。SLA の適用範囲は Compute Engine SLA と契約条件を個別に確認してください。
なお A4X Max / A4X / A4 は高速な Titanium ローカル SSD（12,000 GiB）を標準搭載しています。A4 は Persistent Disk が使えず、ブートディスクを含め Hyperdisk のみ対応です（A4 limitations）。G4 は標準搭載ではなく、作成時に Titanium SSD を追加できる構成です。上限はマシンタイプによって異なり、最上位の g4-standard-384 では最大 12,000 GiB まで追加できます。学習・推論時のデータセットやチェックポイントの一時領域として活用できます。
:::
:::message
Blackwell 世代（A4 / A4X / A4X Max）は需要が高く、多くの場合 Future reservation 経由の reservation-bound プロビジョニング（--provisioning-model=RESERVATION_BOUND）が前提になります（reservation-bound instances）。また Hopper の A3 High は構成によって確保方法が異なり、a3-highgpu-1g / a3-highgpu-2g / a3-highgpu-4g は Spot VM または Flex-start VM で作成する必要があります。スペックだけでなく、確保方法・クォータの観点でも選定時に確認しておくと安心です。
:::
:::message alert 同じ「Blackwell」でも、G4 が搭載する RTX PRO 6000 Blackwell はワークステーション／グラフィックス向けの GPU で、A4・A4X・A4X Max が搭載するデータセンター向け Blackwell（B200 / GB200 / GB300）とは別系統です。GDDR7 メモリ・仮想デスクトップ用途などが特徴で、HBM3e を積む大規模学習向けの B200 系とは位置づけが異なる点に注意してください。 :::
Hopperファミリー
NVIDIA Hopperとは？
NVIDIA Hopper は 2022 年発表のデータセンター向けアーキテクチャです。大規模言語モデル（LLM）の学習において業界標準となった GPU であり、現在も多くの AI/ML 環境で中心的に使用されています。
公式情報：NVIDIA Hopper アーキテクチャ / GCP の A3 マシンタイプ
主な特徴は以下になります。
| 特徴 | 内容 |
|---|---|
| Transformer Engine（第4世代 Tensor Core） | FP8/BF16 の自動切替で Transformer 系モデルの学習を最大 2 倍高速化 |
| NVLink 第4世代 | GPU 間帯域 900 GB/s（双方向/GPU） |
| HBM3 / HBM3e メモリ | H100 は 80 GB HBM3（3.35 TB/s）、H200 は 141 GB HBM3e（4.8 TB/s） |
| MIG（Multi-Instance GPU） | 1 枚の GPU を最大 7 インスタンスに分割。マルチテナント環境での GPU 効率化 |
| PCIe 5.0 対応 | 従来比 2 倍のホスト接続帯域 |
Hopperファミリーマシンタイプ一覧
次にHopperファミリーのマシンタイプ一覧を見てみましょう。
| マシンタイプ | GPU | GPU 数 | GPU メモリ/枚 | CPU | vCPU | システムメモリ | ネットワーク | 主な用途 |
|---|---|---|---|---|---|---|---|---|
| a3-highgpu-1g | H100 SXM | 1 | 80 GB HBM3 | Intel Sapphire Rapids | 26 | 234 GB | 25 Gbps | 小規模 H100 構成 |
| a3-highgpu-2g | H100 SXM | 2 | 80 GB HBM3 | Intel Sapphire Rapids | 52 | 468 GB | 50 Gbps | 小〜中規模 |
| a3-highgpu-4g | H100 SXM | 4 | 80 GB HBM3 | Intel Sapphire Rapids | 104 | 936 GB | 100 Gbps | 中規模 |
| a3-highgpu-8g | H100 SXM | 8 | 80 GB HBM3 | Intel Sapphire Rapids | 208 | 1,872 GB | 1,000 Gbps | 標準的な H100 構成 |
| a3-megagpu-8g | H100 SXM | 8 | 80 GB HBM3 | Intel Sapphire Rapids | 208 | 1,872 GB | 1,800 Gbps（GPUDirect-TCPXO） | NVLink+NVSwitch フルメッシュ |
| a3-ultragpu-8g | H200 SXM | 8 | 141 GB HBM3e | Intel Emerald Rapids | 224 | 2,952 GB | 3,600 Gbps（GPUDirect RDMA/RoCE） | 最大容量・HBM3e 採用 |
| a3-edgegpu-8g | H100 SXM | 8 | 80 GB HBM3 | Intel Sapphire Rapids | 208 | 1,872 GB | 400〜600 Gbps | エッジ・推論向け |
:::message
8 GPU 構成でも High / Mega / Edge は 208 vCPU・1,872 GB メモリの H100 構成である一方、Ultra は 224 vCPU・2,952 GB メモリの H200 構成です。主な差は GPU 世代、ネットワーク帯域、システムメモリで、High=1,000 Gbps、Mega=1,800 Gbps（TCPXO）、Ultra=3,600 Gbps（RDMA、H200 採用）、Edge=400〜600 Gbps のエッジ・推論向けとなります。大規模分散学習ほど高帯域な Mega/Ultra が有利です。通常の A3 High VM には Local SSD が自動アタッチされます。-nolssd はソールテナントノード向けのサフィックス（例: a3-highgpu-node-208-1872-nolssd）であり、通常 VM のマシンタイプ名ではありません（Sole-tenancy overview）。
:::
Ampereファミリー
NVIDIA Ampereとは？
NVIDIA Ampereは2020年発表のアーキテクチャで、現在も多くのAI/MLワークロードで広く利用されています。データセンター向けGPUとして普及率が非常に高く、クラウドからオンプレミスまで標準的な選択肢となっています。
公式情報：NVIDIA Ampere アーキテクチャ / GCP の A2 マシンタイプ
主な特徴は以下になります。
| 特徴 | 内容 |
|---|---|
| MIG（Multi-Instance GPU） | A100 では 1 枚を最大 7 インスタンスに分割可能。GPU 資源の効率利用 |
| 第3世代 Tensor Core | BF16 および TF32 精度を新たにサポート。より安定した学習が可能 |
| NVLink 第3世代 | GPU 間帯域 600 GB/s |
| HBM メモリ | 40 GB（HBM2・帯域 1.55 TB/s）または 80 GB（HBM2e・帯域 2.0 TB/s）の大容量構成 |
| SXM4 インターフェース | 高帯域 NVLink 接続のための専用インターフェース |
Ampereファミリーマシンタイプ一覧
Ampereファミリーのマシンは以下が提供されています。
| マシンタイプ例 | GPU | GPU 数 | GPU メモリ/枚 | CPU | vCPU 範囲 | システムメモリ範囲 | 主な用途 |
|---|---|---|---|---|---|---|---|
| a2-highgpu-1g 〜 8g | A100 SXM4 | 1〜8 | 40 GB HBM2 | Intel Cascade Lake | 12〜96 | 85〜680 GB | DL トレーニング全般 |
| a2-ultragpu-1g 〜 8g | A100 SXM4 | 1〜8 | 80 GB HBM2e | Intel Cascade Lake | 12〜96 | 170〜1,360 GB | 大容量モデル学習 |
| a2-megagpu-16g | A100 SXM4 | 16 | 40 GB HBM2 | Intel Cascade Lake | 96 | 1,360 GB | 超大規模分散学習 |
:::message
a2-megagpu-16g は提供リージョンが限定されています（us-central1 / europe-west4 / asia-southeast1-c など。詳細は GPU locations を参照）。
:::
Ada Lovelaceファミリー
NVIDIA Ada Lovelaceとは？
NVIDIA Ada Lovelaceは2022年発表のアーキテクチャです。データセンター向けとしてはL4が代表例で、省電力・コスト効率を重視した推論や動画処理ワークロードに特化しています。
公式情報：NVIDIA L4 製品ページ / GCP の G2 マシンタイプ
主な特徴は以下になります。
| 特徴 | 内容 |
|---|---|
| 省電力設計 | L4 の TDP は 72W。A100（400W）や H100（700W）と比べ大幅に省エネ |
| 第4世代 Tensor Core | INT8/FP8 推論に最適化。低コストでの高スループット推論を実現 |
| AV1 ハードウェアエンコード | 業界最高水準の動画エンコード効率。ストリーミング・動画変換に強み |
| 小型フォームファクタ | 単一スロット・低消費電力で、推論や動画処理を既存システムへ組み込みやすい |
| GDDR6 メモリ | 24 GB の高帯域メモリ（300 GB/s） |
Ada Lovelaceファミリーマシンタイプ一覧
それではAda Lovelaceファミリーのマシンタイプ一覧を見てみましょう。
| マシンタイプ | GPU | GPU 数 | GPU メモリ/枚 | CPU | vCPU | システムメモリ | 主な用途 |
|---|---|---|---|---|---|---|---|
| g2-standard-4 | L4 | 1 | 24 GB GDDR6 | Intel Cascade Lake | 4 | 16 GB | 軽量推論 |
| g2-standard-8 | L4 | 1 | 24 GB GDDR6 | Intel Cascade Lake | 8 | 32 GB | 推論・軽量 ML |
| g2-standard-12 | L4 | 1 | 24 GB GDDR6 | Intel Cascade Lake | 12 | 48 GB | 推論・動画処理 |
| g2-standard-16 | L4 | 1 | 24 GB GDDR6 | Intel Cascade Lake | 16 | 64 GB | 推論・動画処理 |
| g2-standard-24 | L4 | 2 | 24 GB GDDR6 | Intel Cascade Lake | 24 | 96 GB | マルチ GPU 推論 |
| g2-standard-32 | L4 | 1 | 24 GB GDDR6 | Intel Cascade Lake | 32 | 128 GB | 推論・動画処理 |
| g2-standard-48 | L4 | 4 | 24 GB GDDR6 | Intel Cascade Lake | 48 | 192 GB | マルチ GPU 推論 |
| g2-standard-96 | L4 | 8 | 24 GB GDDR6 | Intel Cascade Lake | 96 | 384 GB | 大規模並列推論 |
:::message
上表のシステムメモリはデフォルト値です。G2 ではマシンタイプごとにカスタムメモリ範囲（例: g2-standard-8 は 32〜54 GB）を指定でき、ネットワーク帯域は 10〜100 Gbps とマシンタイプにより異なります（G2 machine types）。
:::
Grace CPUについて
Blackwellファミリーを紹介した時にGrace CPUというものも合わせて記載していましたが、ここでは簡単にGrace CPUについて説明しようと思います。
NVIDIA Grace CPUは、AI/HPCワークロード向けに設計されたNVIDIA製CPUです。ARM Neoverse V2アーキテクチャをベースに高エネルギー効率と超高速GPU接続を実現します。Google CloudではA4X Max（GB300 Grace Blackwell Ultra）および A4X（GB200 Grace Blackwell Superchip）に採用されています。
公式情報：NVIDIA Grace CPU
主な特徴は以下になっています。
| 特徴 | 内容 |
|---|---|
| ARM Neoverse V2 アーキテクチャ | 1 ソケットあたり最大 72 コア。高いシングルスレッド性能と優れた電力効率 |
| NVLink-C2C インターコネクト | GPU と CPU を 900 GB/s 以上の超高速ファブリックで直結。PCIe の約 7 倍の帯域 |
| 統合メモリ空間 | GPU と CPU のメモリを論理的に統合。データコピーなしで相互アクセスが可能 |
| LPDDR5X メモリ | 省電力かつ高帯域。CPU 直結で大容量かつ高速なメモリアクセスを実現 |
| 省電力設計 | x86 比で AI ワークロードのエネルギー効率を大幅に改善 |
Grace CPUの最大の特徴はGPUとの密結合アーキテクチャです。従来のPCIe接続ではCPU↔GPU間のデータ転送がボトルネックになりますが、NVLink-C2Cによる直結によりこの問題を解消し、超大規模モデルの単一ノード処理を可能にしています。
:::message Google CloudでA4X Max / A4Xを利用するとき、GPU性能を引き出すためのインフラ設計としてはGrace CPUの詳細を強く意識する必要はありません。ただし CPU アーキテクチャは Arm なので、OSイメージ、コンテナイメージ、ネイティブバイナリ、依存ライブラリが arm64 に対応しているかは確認が必要です。A4 は Intel CPU、G4 は AMD CPU のため、この注意点は主に Grace CPU を採用する A4X Max / A4X 向けです。 :::
マシン選定の目安
ユースケースごとにどのファミリーを選択するかは変わってきますが、例えば以下のような使い分けができると思います。
| ユースケース | 推奨アーキテクチャ |
|---|---|
| 最大規模の LLM トレーニング（GPT-4 クラス以上） | Blackwell（A4 / A4X） |
| 現行規模の LLM トレーニング（実績・エコシステム重視） | Hopper（A3） |
| FP4 活用による低コスト・高スループット推論 | Blackwell（A4 / G4） |
| コスト重視の学習・推論 | Hopper（A3）または Ampere（A2） |
| Grace CPU との統合（統一メモリアーキテクチャ） | Blackwell（A4X Max / A4X） |
アーキテクチャの選定と合わせて、GPUメモリ（VRAM）容量もマシン選定の重要な軸になります。モデルの重み・KVキャッシュ・アクティベーションはすべてGPUメモリに載せる必要があり、容量が不足すると学習・推論そのものが動きません。ざっくりした目安として、推論では「モデルのパラメータ数 × 精度あたりのバイト数」に加えてKVキャッシュ分のオーバーヘッド（数割程度）を、学習ではさらにオプティマイザ状態・勾配分（フル精度学習でパラメータあたり十数バイト規模）を見込む必要があります。
| 目安となるワークロード | 必要GPUメモリの目安 | 該当GPU（1枚あたり容量） |
|---|---|---|
| 軽量な推論・動画処理（〜10B級の量子化モデルなど） | 〜24 GB | L4要です（例：GKE で GPU を使う、Vertex AI）。 |
- 仮想ワークステーション（vWS）向け SKU: 仮想デスクトップ・グラフィックス用途では
nvidia-tesla-t4-vws、nvidia-tesla-p100-vws、nvidia-l4-vws、nvidia-rtx-pro-6000-vwsなどの vWS 版アクセラレータが別途用意されています（NVIDIA RTX 仮想ワークステーション）。
まとめ
今回はGoogle Cloud上で利用できるGPUマシンについて解説しました！様々なマシンがありどれを利用すれば悩むことも多いと思いますが、まずはどのようなマシンがあるかを理解してもらえれば幸いです。 （24 GB）、G4 fractional（12〜48 GB） | | 中規模モデルの推論・チューニング（10〜30B級） | 24〜80 GB | RTX PRO 6000（96 GB）、A100 40/80 GB | | 大規模モデルの学習・推論（30〜70B級を単一GPUで） | 80〜141 GB | A100 80 GB、H100（80 GB）、H200（141 GB） | | 超大規模モデル（複数GPUでの分散が前提） | 数百 GB〜（枚数×容量で確保） | B200（180/186 GB）、GB300（279 GB）＋NVLink |
単一GPUに載りきらない規模では、複数GPU構成でメモリを束ねて使うことになりますが、その際はGPU間の接続方式（NVLink / NVSwitch か PCIe / P2P か）が実効性能を大きく左右します。大規模学習ほど、GPUメモリ総量だけでなくNVLink帯域を備えたA3 / A4系が有利です。逆に、モデルが1枚のGPUメモリに収まる推論用途では、L4やG4のfractional GPUでコストを抑えるのが定石です。
Compute Engine 以外での GPU 利用
ここまでは Compute Engine のマシンファミリーを中心に見てきましたが、同じ GPU は他のサービス経由でも利用できます。用途によってはこちらの方が手軽です。
- Cloud Run（サーバレス GPU）: NVIDIA L4 に加えて RTX PRO 6000 Blackwell も利用できます。ドライバ管理不要・秒単位課金・スケールゼロが可能なため推論 API を手軽に立てたい場合に有力です。Cloud Run の GPU は 1 インスタンスあたり 1 GPU で、L4 は最小 4 CPU / 16 GiB、RTX PRO 6000 Blackwell は最小 20 CPU / 80 GiB のリソース指定が必要です。初回利用時は一定量の GPU クォータが自動付与されますが、追加利用や冗長化構成ではクォータ申請が必要になる場合があります。また SLA は GPU のゾーン冗長化設定に依存します（Cloud Run GPU 公式ドキュメント）。
- GKE / Vertex AI / Cloud Workstations など: Compute Engine 以外のサービスでも GPU を利用できます。ただし対応 GPU、マシンタイプ、ドライバ、クォータ、リージョン制約はサービスごとに異なります。例えば GKE では A4X Max / A4X / A4 / A3 / A2 / G4 / G2 / N1 系 GPU ノードを扱えますが、必要な GKE バージョンやドライバ条件もあわせて確認が必