情報量とは（全体像）
情報量とは、ものごとの「不確実さ（めずらしさ）」を数値にしたもののことだ。起こりにくいこと（確率が低いこと）が起きたときほど、「へえ！」という驚きが大きい＝情報量が大きい、と考える。
たとえば、「コインの表が出た」（確率1/2）は、あまり驚かない。でも、「1000分の1の大当たりが出た」なら、すごく驚く。この「驚きの大きさ」を数値にしたのが、情報量だ。
ここで一番のポイント。情報量は、ファイルの「データ量（サイズ）」とは別もの。情報量は、不確実さ（めずらしさ）の尺度だ。「情報量＝データ量」と思い込むと誤りになる。
詳しく：ビットでの数え方とエントロピー
ここが心臓部。情報量の数え方を、表で押さえよう。
確率と情報量（ビット）
| 確率 | 情報量 |
|---|---|
| 1/2 | 1ビット |
| 1/4 | 2ビット |
| 1/8 | 3ビット |
情報量は、確率が半分になるごとに、1ビットずつ増える。だから、確率1/2なら1ビット、1/4なら2ビット、1/8なら3ビットとなる。起こりにくい（確率が低い）ほど、ビット数が大きくなる、というわけだ。
そして、エントロピー。これは、情報量の平均（期待値）のこと。1回ごとの情報量ではなく、ならして見たときの平均的な情報量を表す。
なお、ビットで数えるので、計算には2を底とする対数（log2）を使う。「log10（10を底）を使う」と思い込むと誤りなので、ビット単位＝log2、と押さえておこう。
わかりやすく言い換えると
身近なたとえで整理しよう。
情報量は、「それが起きたときの『驚きの大きさ』を数値にしたもの」のイメージ。めったに起きないことほど、知ったときの驚き（情報量）が大きい。
ビットでの数え方は、「確率が半分になるたびに、1ビット増える」こと。要するに、1/2で1ビット、1/4で2ビット、と増えていく。
エントロピーは、「情報量を、ならして見たときの平均」。つまり、平均的にどれくらいの情報量か、を表す。
試験のツボ
🔴 一番出る：情報量の正体
①ものごとの不確実さ（めずらしさ）を数値にしたもの
②起こりにくいことほど、情報量は大きい
🔴 次に出る：ビットでの数え方
①確率が半分になるごとに、1ビット増える
②確率1/2なら1ビット、1/4なら2ビット、1/8なら3ビット
🟡 押さえると安定：データ量との違いとエントロピー
①情報量は、ファイルのデータ量とは別（不確実さの尺度）
②エントロピーは、情報量の平均（期待値）
よくある間違い
①「情報量とは、ファイルのデータ量（サイズ）のことだ」→ ✗ 情報量は、不確実さ（めずらしさ）の尺度。データ量とは別もの。
②「起こりやすいこと（確率が高いこと）ほど、情報量は大きい」→ ✗ 逆で、起こりにくいこと（確率が低いこと）ほど、情報量は大きい。
③「情報量は、確率がどう変わっても、ずっと一定だ」→ ✗ 確率が半分になるごとに、情報量は1ビットずつ増える。
試験での出題パターン
実際の問題でたしかめてみよう。
オリジナル問題1（情報量の正体）
情報量に関する次の記述のうち、最も適切なものはどれか。
- ものごとの不確実さ（めずらしさ）を数値にしたものである
- 社員の出退勤を記録して、毎月の給与を計算するしくみである
- 取引先へ毎月の請求書を郵送する、決まった事務作業である
- 完成したシステムを宣伝して、より多く売る広告活動である
解答は 1 だぱん。
情報量は、ものごとの不確実さ（めずらしさ）を数値にしたものなんだぱん。起こりにくいことほど、情報量は大きいんだぱん。
選択肢2は給与計算、選択肢3は請求書の事務、選択肢4は広告で、どれも違うぱん。
| 選択肢 | 判定 | 理由 |
|---|---|---|
| 1 | ✓ | 不確実さを数値にしたもので正しい |
| 2 | ✗ | 給与計算のしくみではない |
| 3 | ✗ | 請求書の事務の話 |
| 4 | ✗ | 広告活動ではない |
オリジナル問題2（ビットでの数え方）
確率と情報量の関係として、最も適切なものはどれか。
- 社員の給与を計算した金額が、そのまま情報量になるとされている
- 取引先へ郵送した請求書の枚数が、情報量になるとされているものだ
- 確率に関わらず、情報量はいつも一定の値になるとされているものだ
- 確率が半分になるごとに1ビット増え、1/2なら1ビットになる
解答は 4 だぱん。
情報量は、確率が半分になるごとに1ビット増え、1/2なら1ビット、1/4なら2ビットになるんだぱん。起こりにくいほど大きいんだぱん。
選択肢1の給与、選択肢2の請求書、選択肢3の「いつも一定」は、いずれも違うぱん。
| 選択肢 | 判定 | 理由 |
|---|---|---|
| 1 | ✗ | 給与の金額ではない |
| 2 | ✗ | 請求書の枚数ではない |
| 3 | ✗ | 確率で変わる（一定ではない） |
| 4 | ✓ | 半分ごとに1ビット増えるで正しい |
オリジナル問題3（データ量との違い）
情報量とデータ量の関係に関する次の記述のうち、最も適切なものはどれか。
- 情報量とは、ファイルのデータ量（サイズ）のことだとされているものだ
- 情報量とは、社員の給与のデータ量のことだとされているものである
- 情報量は不確実さの尺度で、ファイルのデータ量とは別ものである
- 情報量とは、取引先へ郵送する請求書のデータ量だとされている
解答は 3 だぱん。
情報量は、不確実さの尺度で、ファイルのデータ量とは別ものなんだぱん。サイズの話とまちがえないようにするといいぱん。
選択肢1の「データ量」、選択肢2の給与、選択肢4の請求書は、いずれも違うぱん。
| 選択肢 | 判定 | 理由 |
|---|---|---|
| 1 | ✗ | データ量とは別もの |
| 2 | ✗ | 給与のデータ量ではない |
| 3 | ✓ | 不確実さの尺度で正しい |
| 4 | ✗ | 請求書のデータ量ではない |
まとめ
押さえどころ
- 🔴 情報量 ＝ ものごとの不確実さ（めずらしさ）を数値にしたもの。起こりにくいことほど大きい。
- 🔴 ビットでの数え方 ＝ 確率が半分になるごとに1ビット増える（1/2なら1ビット、1/4なら2ビット）。
- 🟡 データ量との違いとエントロピー ＝ 情報量はデータ量とは別（不確実さの尺度）。エントロピーは情報量の平均。
次に学ぶ
- 文字コード ── 文字を数値で表す決まり。情報をビットで扱う考え方につながる。
- エントロピー ── 情報量の平均（期待値）。圧縮の限界などを考えるときの基礎になる。
執筆: SikakuQuest編集部