GPU・TPU・NPUとは(全体像)
CPUは何でもこなす万能選手だが、AIの計算(同じような計算を膨大にくり返す)は苦手なことがある。そこで、同じ計算を一気に大量にこなす専用プロセッサが使われる。それがGPU・TPU・NPUだ。
身近にたとえると、GPUは「同じ単純作業を並行する数千人の大工場」。1人ずつ順にやると遅い作業も、大勢で同時にやれば一気に終わる。AIの計算はこの「大量の並行」と相性がよい。
押さえたいのは、これらは用途や得意分野が違うこと。次の節で3つの違いを整理しよう。
詳しく:3種類の違いと2つの誤解だけ覚えれば戦える
ここが記事の心臓部。3種類を表で押さえよう。
GPU・TPU・NPUの違い
| 種類 | 正式名(意味) | 得意・用途 | たとえ |
|---|---|---|---|
| GPU | 画像処理装置 | たくさんの計算を並行。AIの学習で主役 | 数千人の大工場 |
| TPU | テンソル処理装置 | Google製。行列計算に特化 | 行列計算専門の達人集団 |
| NPU | 推論処理装置 | スマホ向け。省電力でAIを実行 | ポケットに入る省電力計算機 |
GPUはもともと画像(グラフィック)を描くための部品だったが、今はAIや科学計算にも広く使われる(この使い方をGPGPUという)。「GPU=グラフィック専用」は古い見方だ。
TPUはGoogleが独自に作った専用チップで、AIでよく使う行列の計算に特化している。GPUよりさらに用途をしぼった作りだ。
NPUはスマホなどの端末向けで、学習ずみのAIを動かす「推論」を、少ない電力でこなす。顔認証や写真の自動分類などを支えている。
学習と推論の役割分担(よくある出題)
| 場面 | よく使うもの | 例 |
|---|---|---|
| AIの学習(大量データで訓練) | GPU・TPU | 大規模AIモデルの訓練 |
| AIの推論(学習ずみを実行) | NPU | スマホの顔認証・翻訳 |
つまり、学習は大きなGPU・TPU、端末での実行(推論)は省電力のNPU、という役割分担になっている。ここが取り違えやすいので押さえておこう、というわけだね。
わかりやすく言い換えると
要するに、3種類は「AIの計算を速くする、得意分野の違う専用プロセッサ」だ。
①GPU … 同じ計算を一気に並行(大工場)。AIの学習で主役。グラフィック専用ではない
②TPU … Google製で行列計算に特化(達人集団)
③NPU … スマホ向けで省電力。学習ずみAIの実行(推論)に強い
「GPUはグラフィック専用ではない」「NPUは推論向け」だけは取り違えやすい。
試験のツボ
🔴 一番出る:3種類の役割の違い
①GPUは並行計算でAIの学習が主役
②TPUはGoogle製・行列特化、NPUはスマホ向け省電力
🔴 次に出る:GPUはグラフィック専用ではない
①もとは画像用だが、今はAI・科学計算にも使う
②この使い方をGPGPUという
🟡 押さえると安定:学習と推論の役割分担
①学習は大きなGPU・TPU
②端末での推論(実行)は省電力のNPU
よくある間違い
①「GPUはグラフィック専用で、AIには使えない」→ ✗ 今はAIや科学計算にも広く使う(GPGPU)。AIの学習では主役。
②「TPUはGPUとまったく同じもの」→ ✗ TPUはGoogle製の専用チップで、行列計算にさらに特化している。
③「NPUはAIの学習を大量にこなすための部品」→ ✗ NPUは端末での推論(学習ずみAIの実行)向け。学習は大きなGPU・TPU。
試験での出題パターン
実際の問題でたしかめてみよう。
オリジナル問題1(3種類の役割)
GPU・TPU・NPUに関する次の記述のうち、正しいものはどれか。
- GPU・TPU・NPUはすべて同じもので、名前が違うだけで中身に違いはないとされる
- GPUはグラフィックだけに使い、AIや科学計算にはいっさい使えないものとされている
- GPUは並行計算でAI学習の主役、TPUはGoogle製で行列特化、NPUはスマホ用だ
- TPUはスマホ専用で省電力、NPUはGoogle製で行列計算に特化したものとされている
解答は 3 である。
GPUは並行計算でAI学習の主役、TPUはGoogle製で行列特化、NPUはスマホ向け省電力なのだ。役割分担を押さえることなるぞ。
選択肢1の「同じもの」、選択肢2の「グラフィック専用」、選択肢4のTPUとNPUの取り違えはどれも誤りである。
| 選択肢 | 判定 | 理由 |
|---|---|---|
| 1 | ✗ | 得意分野が違う |
| 2 | ✗ | GPUはAIにも使う |
| 3 | ✓ | GPU並行・TPU行列・NPUスマホ |
| 4 | ✗ | TPUとNPUが逆 |
オリジナル問題2(GPUの用途)
GPUの用途に関する次の記述のうち、正しいものはどれか。
- GPUはもとは画像用だが、今はAIや科学計算にも広く使われている(GPGPU)
- GPUはグラフィック専用のままで、AIの計算にはいっさい使われないものとされる
- GPUは1つずつ順番に計算する部品で、並行して計算することはできないものである
- GPUはGoogleだけが作る部品で、ほかの会社はいっさい作れないものとされている
解答は 1 である。
GPUはもとは画像用だが、今はAIや科学計算にも広く使われているのだ。この使い方をGPGPUというなるぞ。「グラフィック専用」は古い見方である。
選択肢2の「専用のまま」、選択肢3の「並行できない」、選択肢4の「Googleだけ」はどれも誤りである。
| 選択肢 | 判定 | 理由 |
|---|---|---|
| 1 | ✓ | 今はAI・科学計算にも使う |
| 2 | ✗ | AIにも使う |
| 3 | ✗ | 並行計算が得意 |
| 4 | ✗ | 複数の会社が作る |
オリジナル問題3(学習と推論)
AIの学習と推論の役割分担に関する次の記述のうち、正しいものはどれか。
- NPUは大量データでのAI学習を主に担い、GPUはいっさい計算に使われないものだ
- AIの学習は大きなGPU・TPU、端末での推論のほうは省電力のNPUが向いている
- AIの学習も推論も、すべてNPUだけで行い、GPUやTPUは不要だとされている
- AIの学習はスマホのNPU、推論は大型のGPUという役割だと決められているものだ
解答は 2 である。
AIの学習は大きなGPU・TPU、端末での推論(学習ずみAIの実行)は省電力のNPUが向いているのだ。役割の向きを取り違えないことなるぞ。
選択肢1・3・4はどれも学習と推論の担当が誤りである。学習は大きなGPU・TPUなのだ。
| 選択肢 | 判定 | 理由 |
|---|---|---|
| 1 | ✗ | 学習はGPU・TPU |
| 2 | ✓ | 学習=GPU/TPU・推論=NPU |
| 3 | ✗ | 学習はGPU・TPU |
| 4 | ✗ | 学習と推論が逆 |
まとめ
押さえどころ
- 🔴 3種類の違い = GPUは並行計算でAI学習の主役、TPUはGoogle製で行列特化、NPUはスマホ向け省電力。
- 🔴 GPUの用途 = もとは画像用だが、今はAI・科学計算にも使う(GPGPU)。グラフィック専用ではない。
- 🟡 学習と推論 = 学習は大きなGPU・TPU、端末での推論(実行)は省電力のNPU。
次に学ぶ
- CPUアーキテクチャ ── 何でもこなすCPUの基本構成。AI加速器との役割の違いがつかめる。
- パイプライン処理 ── CPUを速くするしくみ。並行で速くするGPUとの考え方の違いが分かる。
執筆: SikakuQuest編集部