従来のCPUは、過去のソフト資産を引きずっていることもあって、「汎用計算」への対応を強いられた。また、マルチメディア対応を迫られたことから、どんどん「命令」の種類が増えて、複雑化した。しかし、ＡＩの演算は、基本「行列」演算中心で、「積和計算」が中心である。そこで、極力「整数演算」中心へと回路設計を変更した…、とも聞いた。そういうＡＩ時代の、計算・演算の特徴及び回路設計に焦点を当てて、詳しく解説して。

『あなたの理解はかなり本質を突いています。

ただし、厳密には

「CPUが整数演算中心になった」

というより、

「AIでは精度を多少落としても結果が出せるため、浮動小数点演算を極端に簡略化したり、整数演算へ近づけたりできる」

というのが正確です。

AI時代の計算機アーキテクチャの変化を、まず歴史から整理してみましょう。

従来CPUの世界

CPUは本来、

OS
表計算
ブラウザ
データベース
CAD
会計ソフト
ゲーム

など全部を動かさなければなりません。

つまり

「何でもできる汎用機械」

でした。

そのためCPUには、

整数演算
2 + 3 = 5

浮動小数演算
3.141592 × 2.71828

分岐命令
もしAなら
→こちら

そうでなければ
→あちら

メモリアクセス
I/O制御
OS管理

など膨大な命令群が搭載されています。

特にx86系CPUは40年以上の互換性維持があるため、

8086 ↓ 386 ↓ Pentium ↓ Core ↓ Core Ultra

の過去資産を引きずっています。

結果として

CPUは万能だが極めて複雑

になりました。

AIの計算は何をしているか

ところがAIは事情が違います。

ChatGPTでも画像生成AIでも、本質は

行列 × 行列

です。

例えば

10000 × 10000

の巨大な行列同士を掛け算する。

内部では

A × B

↓

掛け算
+
足し算

の繰り返しになります。

数学的には

積和演算（MAC）

Multiply Accumulate

a×b+c

です。

AIの計算量の95%以上はこれです。

極端に言うと

掛け算
↓
足し算

を何兆回も繰り返しているだけです。

従来CPUとAI計算の相性

CPUは

もし～
なら～

が得意です。

一方AIは

同じ計算を
100億個まとめて実行

します。

例えば

1 × 1
2 × 2
3 × 3
…
100億 × 100億

を一度に処理したい。

CPUは

1個
↓
1個
↓
1個

と処理するので不向きです。

GPUがAIで強い理由

GPUはもともと

3Dゲーム用でした。

3D描画では

頂点A
頂点B
頂点C
…

を同時処理する必要があります。

そのためGPUは

単純な計算機
×
数千個

という構造になっています。

CPU

超優秀な頭脳
16～24人

GPU

そこそこ優秀
6000人

という違いです。

AIでは

同じ計算
×
何億回

なのでGPUが圧勝します。

AI革命で起きた最大の変化

ここからがあなたの関心部分です。

科学技術計算では

3.14159265358979…

みたいな高精度が必要です。

しかしAIは

0.12345

でも

0.12344

でも結果がほぼ変わりません。

ニューラルネットは

多少誤差があっても動くからです。

精度を落とす革命

昔

FP64

64bit

でした。

その後

FP32

32bit

へ移行。

さらに

FP16

16bit

になった。

さらに

BF16

16bit

さらに

FP8

8bit

さらに

FP4

4bit

まで来ています。RTX SparkもFP4性能を強くアピールしています。

つまり

64bit
↓
32bit
↓
16bit
↓
8bit
↓
4bit

です。

なぜ精度を落とせるのか

例えば

人間の脳も

正確に
24.583729

とは考えていません。

むしろ

だいたい25くらい

で認識しています。

AIも同じです。

LLMの重みが

0.123456789

でなく

0.12

でも大きく性能は落ちません。

そこで

重みを圧縮する

↓

演算器を簡単にする

↓

消費電力を減らす

↓

計算速度を上げる

となります。

Tensor Coreの本質

NVIDIA最大の発明の一つです。

CPU

何でもできる

GPU

並列計算特化

Tensor Core

行列積専用機械

です。

通常の演算器なら

掛け算
↓
足し算

を汎用的に実行します。

Tensor Coreは

行列演算だけ

を超高速化している。

つまり

普通の道路ではなく

AI専用高速道路です。

RTX Sparkの思想

RTX Sparkはさらに進めています。

従来

CPU
↓
RAM

GPU
↓
VRAM

でした。

AIでは

巨大モデルのデータ移動がボトルネックになります。

そこで

CPU
+
GPU
+
統合メモリ

にしている。

これはAppleのMシリーズに近い発想です。

ただしNVIDIAは

CUDA
TensorRT
Tensor Core

を統合しているので、

AI専用機としてはさらに踏み込んでいます。

今後10年の半導体進化

実は半導体業界は

「CPU中心時代」から「メモリ帯域中心時代」へ移行中

です。

昔のボトルネック

演算器不足

現在のボトルネック

データ運搬不足

です。

AIでは

計算そのものより

重みを運ぶ

方が大変になっています。

そのため

HBM
Unified Memory
NVLink
CXL

が重要になっています。

言い換えると、

20世紀のコンピュータは

いかに速く計算するか

だったのに対し、

AI時代のコンピュータは

いかに大量のデータを動かさずに計算するか

へ問題そのものが変わっています。

RTX Sparkは、その流れの中で

「汎用PC」から「AIネイティブ計算機」への転換点

として見るのが最も本質的だと思います。あなたが興味を持たれている第四次産業革命の文脈では、これは単なる新CPUではなく、

「CPU中心アーキテクチャ → AIアクセラレータ中心アーキテクチャ」への歴史的な重心移動

と捉えると非常に理解しやすいでしょう。』

共有: