GPU(グラフィックスプロセッシングユニット)とは——AIインフラの心臓部を解説

✍️ DCトレンド研究編集部
#GPU #NVIDIA #AI #HPC #Blackwell #H100 #演算加速

GPUとは

GPU(Graphics Processing Unit:グラフィックスプロセッシングユニット)は、大量の演算を並列に処理することに特化した半導体チップです。

もともとはコンピューターゲームや映像制作における画像・映像処理を高速化するために開発されましたが、現在はAI(人工知能)の学習・推論、科学技術計算、シミュレーションなど、幅広い分野でなくてはならない存在になっています。


CPUとGPUの違い

コンピューターの中核を担うCPU(Central Processing Unit)と比較すると、GPUの特徴がよくわかります。

比較項目CPUGPU
コア数数〜数十コア数千〜数万コア
得意な処理複雑な論理処理・逐次処理単純な演算の大量並列処理
汎用性高い限定的(並列演算に特化)
消費電力数十〜数百W数百W〜1kW超
主な用途OS・アプリケーション全般AI・画像処理・シミュレーション

CPUが「頭の切れる少数精鋭」なら、GPUは「単純作業を超高速でこなす大勢の作業員」というイメージです。


AIにGPUが欠かせない理由

AIの学習(トレーニング)では、数十億〜数兆個のパラメータに対して、行列演算(掛け算・足し算)を繰り返し大量に実行します。この処理はGPUの並列演算と極めて相性がよく、CPUと比べて数十〜数百倍の速度で処理できます。

生成AI(ChatGPTなど大規模言語モデル)の登場以降、AIに必要な計算量は急速に増大しており、GPUの需要も爆発的に拡大しています。


データセンターへの影響

GPUの普及はデータセンターに大きな変化をもたらしています。

電力密度の急上昇

汎用サーバーのラックあたり消費電力は5〜15kW程度でしたが、GPU搭載サーバーは一気に跳ね上がります。

GPU世代代表モデルラックあたり電力
Pascal(2016)P10010〜15 kW
Ampere(2020)A10020〜40 kW
Hopper(2022)H10030〜60 kW
Blackwell(2024)GB200 NVL72120 kW超

液冷インフラの必須化

Blackwell世代(GB200)からは、NVIDIAが直接液冷(DLC)を必須要件として指定しています。空冷では物理的に排熱できないためです。これにより、GPU対応DCには冷却水配管・熱交換器・ポンプシステムなどの液冷インフラが不可欠になりました。

二極化するデータセンター

GPU対応(高電力密度・液冷)ができるDCと、できないDCの差が急速に広がっています。「AI対応DC」と謳っていても、実際には旧世代GPU(30kW/ラック程度)しか対応できない施設も多く、調達時の確認が重要です。


主要GPU製品(DC向け)

NVIDIAがデータセンター向けGPU市場で圧倒的なシェアを持っています。

製品名世代主な用途
H100 SXM5Hopper(2022)LLMトレーニング・大規模推論
H200Hopper派生(2024)H100の後継・HBM3e搭載
GB200 NVL72Blackwell(2024〜)次世代LLMトレーニング・超大規模推論

AMD(MI300シリーズ)やGoogleのTPU(Tensor Processing Unit)も一部用途でシェアを伸ばしていますが、エコシステムの成熟度からNVIDIAが依然として主流です。


DX担当者が知っておくべきこと

自社でAIシステムを構築・調達する際の実務的なポイントです。

クラウドを使う場合は、GPU種別(H100かGB200か)とリージョンの空き状況を確認しましょう。国内リージョンでは最新世代GPUのインスタンスが不足していることがあります。

コロケーションDCを使う場合は、対応している最大電力密度と液冷対応可否を必ず確認しましょう。GB200(Blackwell)を利用したいなら120kW/システム以上への対応が必要です。

自社DCにオンプレミス導入する場合は、既存施設の電力・冷却設備の改修コストが大きくなるケースがあります。電力・冷却・床荷重の3点を事前に確認することが重要です。


まとめ

GPUはAI・データセンター業界のコアコンポーネントとなっており、「どのGPUを、どこで、どのように動かすか」がITインフラ戦略の中心的な問いになっています。Blackwell世代以降はDCの物理設計にも根本的な変革を迫っており、今後もその影響は拡大し続けるでしょう。


関連記事・用語

この記事は DCトレンド研究 が独立した第三者の立場で執筆しています。