GPU・TPU・NPUとは?AIの計算を速くする専用プロセッサ

公開: 更新: カテゴリ: テクノロジ系

30秒で結論

GPU・TPU・NPUとは(全体像)

CPUは何でもこなす万能選手だが、AIの計算(同じような計算を膨大にくり返す)は苦手なことがある。そこで、同じ計算を一気に大量にこなす専用プロセッサが使われる。それがGPU・TPU・NPUだ。

身近にたとえると、GPUは「同じ単純作業を並行する数千人の大工場」。1人ずつ順にやると遅い作業も、大勢で同時にやれば一気に終わる。AIの計算はこの「大量の並行」と相性がよい。

押さえたいのは、これらは用途や得意分野が違うこと。次の節で3つの違いを整理しよう。


詳しく:3種類の違いと2つの誤解だけ覚えれば戦える

ここが記事の心臓部。3種類を表で押さえよう。

GPU・TPU・NPUの違い

種類正式名(意味)得意・用途たとえ
GPU画像処理装置たくさんの計算を並行。AIの学習で主役数千人の大工場
TPUテンソル処理装置Google製。行列計算に特化行列計算専門の達人集団
NPU推論処理装置スマホ向け。省電力でAIを実行ポケットに入る省電力計算機

GPUはもともと画像(グラフィック)を描くための部品だったが、今はAIや科学計算にも広く使われる(この使い方をGPGPUという)。「GPU=グラフィック専用」は古い見方だ。

TPUはGoogleが独自に作った専用チップで、AIでよく使う行列の計算に特化している。GPUよりさらに用途をしぼった作りだ。

NPUはスマホなどの端末向けで、学習ずみのAIを動かす「推論」を、少ない電力でこなす。顔認証や写真の自動分類などを支えている。

学習と推論の役割分担(よくある出題)

場面よく使うもの
AIの学習(大量データで訓練)GPU・TPU大規模AIモデルの訓練
AIの推論(学習ずみを実行)NPUスマホの顔認証・翻訳

つまり、学習は大きなGPU・TPU、端末での実行(推論)は省電力のNPU、という役割分担になっている。ここが取り違えやすいので押さえておこう、というわけだね。

わかりやすく言い換えると

要するに、3種類は「AIの計算を速くする、得意分野の違う専用プロセッサ」だ。

GPU … 同じ計算を一気に並行(大工場)。AIの学習で主役。グラフィック専用ではない

TPU … Google製で行列計算に特化(達人集団)

NPU … スマホ向けで省電力。学習ずみAIの実行(推論)に強い

「GPUはグラフィック専用ではない」「NPUは推論向け」だけは取り違えやすい。


試験のツボ

🔴 一番出る:3種類の役割の違い

①GPUは並行計算でAIの学習が主役

②TPUはGoogle製・行列特化、NPUはスマホ向け省電力

🔴 次に出る:GPUはグラフィック専用ではない

①もとは画像用だが、今はAI・科学計算にも使う

②この使い方をGPGPUという

🟡 押さえると安定:学習と推論の役割分担

①学習は大きなGPU・TPU

②端末での推論(実行)は省電力のNPU


よくある間違い

「GPUはグラフィック専用で、AIには使えない」→ ✗  今はAIや科学計算にも広く使う(GPGPU)。AIの学習では主役。

「TPUはGPUとまったく同じもの」→ ✗  TPUはGoogle製の専用チップで、行列計算にさらに特化している。

「NPUはAIの学習を大量にこなすための部品」→ ✗  NPUは端末での推論(学習ずみAIの実行)向け。学習は大きなGPU・TPU。


試験での出題パターン

実際の問題でたしかめてみよう。

オリジナル問題1(3種類の役割)

📝 オリジナル問題 1 3種類の役割

GPU・TPU・NPUに関する次の記述のうち、正しいものはどれか。

  1. GPU・TPU・NPUはすべて同じもので、名前が違うだけで中身に違いはないとされる
  2. GPUはグラフィックだけに使い、AIや科学計算にはいっさい使えないものとされている
  3. GPUは並行計算でAI学習の主役、TPUはGoogle製で行列特化、NPUはスマホ用だ
  4. TPUはスマホ専用で省電力、NPUはGoogle製で行列計算に特化したものとされている
ネトスパ
ネトスパ 解答・解説

解答は 3 である。

GPUは並行計算でAI学習の主役、TPUはGoogle製で行列特化、NPUはスマホ向け省電力なのだ。役割分担を押さえることなるぞ。

選択肢1の「同じもの」、選択肢2の「グラフィック専用」、選択肢4のTPUとNPUの取り違えはどれも誤りである。

選択肢判定理由
1得意分野が違う
2GPUはAIにも使う
3GPU並行・TPU行列・NPUスマホ
4TPUとNPUが逆

オリジナル問題2(GPUの用途)

📝 オリジナル問題 2 GPUの用途

GPUの用途に関する次の記述のうち、正しいものはどれか。

  1. GPUはもとは画像用だが、今はAIや科学計算にも広く使われている(GPGPU)
  2. GPUはグラフィック専用のままで、AIの計算にはいっさい使われないものとされる
  3. GPUは1つずつ順番に計算する部品で、並行して計算することはできないものである
  4. GPUはGoogleだけが作る部品で、ほかの会社はいっさい作れないものとされている
ネトスパ
ネトスパ 解答・解説

解答は 1 である。

GPUはもとは画像用だが、今はAIや科学計算にも広く使われているのだ。この使い方をGPGPUというなるぞ。「グラフィック専用」は古い見方である。

選択肢2の「専用のまま」、選択肢3の「並行できない」、選択肢4の「Googleだけ」はどれも誤りである。

選択肢判定理由
1今はAI・科学計算にも使う
2AIにも使う
3並行計算が得意
4複数の会社が作る

オリジナル問題3(学習と推論)

📝 オリジナル問題 3 学習と推論

AIの学習と推論の役割分担に関する次の記述のうち、正しいものはどれか。

  1. NPUは大量データでのAI学習を主に担い、GPUはいっさい計算に使われないものだ
  2. AIの学習は大きなGPU・TPU、端末での推論のほうは省電力のNPUが向いている
  3. AIの学習も推論も、すべてNPUだけで行い、GPUやTPUは不要だとされている
  4. AIの学習はスマホのNPU、推論は大型のGPUという役割だと決められているものだ
ネトスパ
ネトスパ 解答・解説

解答は 2 である。

AIの学習は大きなGPU・TPU端末での推論(学習ずみAIの実行)は省電力のNPUが向いているのだ。役割の向きを取り違えないことなるぞ。

選択肢1・3・4はどれも学習と推論の担当が誤りである。学習は大きなGPU・TPUなのだ。

選択肢判定理由
1学習はGPU・TPU
2学習=GPU/TPU・推論=NPU
3学習はGPU・TPU
4学習と推論が逆

まとめ

押さえどころ

次に学ぶ


執筆: SikakuQuest編集部

勉強は、クエストになった。

資格の勉強を、冒険に変えるRPG学習アプリ

App Storeで見る