機械学習の課題とは（全体像）
機械学習は便利だが、いくつかの課題もある。代表的なものを見てみよう。
- 過学習 … 訓練データに合わせすぎて、新しいデータにうまく対応できない（過適合）
- データバイアス … 学習データのかたよりで、判断がかたよる（不公平になる）
- ブラックボックス性 … 判断の根拠が分かりにくい
ここで一番のポイント。過学習は「過適合」で、学習不足とは逆だ。「過学習は、学習が足りないことだ」と思い込むと誤りで、過学習は、訓練データに合わせすぎてしまった状態をいう。
詳しく：データバイアスと、ブラックボックス性
ここが心臓部。ポイントを表で押さえよう。
機械学習の課題
| 課題 | やさしい意味 |
|---|---|
| 過学習 | 訓練データに合わせすぎて、新しいデータに弱い |
| データバイアス | 学習データのかたよりで、判断がかたよる |
| ブラックボックス性 | 判断の根拠が分かりにくい |
| 対応 | 説明できるAI（XAI）などで根拠を見えやすく |
データバイアスは、学習に使ったデータがかたよっていると、AIの判断もかたよってしまう、という課題だ。たとえば、ある集団のデータばかりで学ぶと、不公平な判断につながる。
ここで一番のポイント。AIは、つねに客観的とはかぎらない。「AIの判断は、いつも中立で公平だ」と思い込むと誤りで、学習データがかたよれば、判断もかたよる。また、判断の根拠が分かりにくいブラックボックス性には、根拠を見えやすくする「説明できるAI（XAI）」などで対応する。
わかりやすく言い換えると
身近なたとえで整理しよう。
過学習は、「過去問だけを丸暗記して、本番の新しい問題に対応できない状態」のイメージ。要するに、合わせすぎ。
データバイアスは、「かたよった資料で勉強したせいで、判断までかたよること」こと。つまり、AIも公平とはかぎらない。
ブラックボックス性は、「なぜその答えになったか、理由が見えにくいこと」こと。
試験のツボ
🔴 一番出る：過学習
①訓練データに合わせすぎて、新しいデータに対応できない
②過適合のこと。学習不足とは逆
🔴 次に出る：データバイアス
①学習データのかたよりで、判断がかたよる（不公平に）
②AIはつねに客観的とはかぎらない
🟡 押さえると安定：ブラックボックス性
①判断の根拠が分かりにくい
②説明できるAI（XAI）などで根拠を見えやすくする
よくある間違い
①「過学習は、学習が足りないことだ」→ ✗ 過学習は過適合（合わせすぎ）。学習不足とは逆。
②「AIの判断は、いつも中立で公平だ」→ ✗ 学習データがかたよれば判断もかたよる（データバイアス）。
③「AIの判断は、つねに根拠がはっきり見える」→ ✗ 根拠が分かりにくいブラックボックス性という課題がある。
試験での出題パターン
実際の問題でたしかめてみよう。
オリジナル問題1（過学習）
過学習に関する次の記述のうち、最も適切なものはどれか。
- 社員の出退勤を記録して、毎月の給与を計算するためのしくみだ
- 訓練データに合わせすぎて、新しいデータに弱くなることである
- 取引先へ毎月の請求書を郵送する、決まった事務作業のことを指す
- 完成したシステムを宣伝して、より多く売るための広告活動である
解答は 2 である。
過学習は、訓練データに合わせすぎて、新しいデータに弱くなること（過適合）じゃ。学習不足とは逆と心得るがよい。
選択肢1は給与計算、選択肢3は請求書の事務、選択肢4は広告ゆえ、どれも違うのじゃ。
| 選択肢 | 判定 | 理由 |
|---|---|---|
| 1 | ✗ | 給与計算のしくみではない |
| 2 | ✓ | 過適合で新しいデータに弱いで正しい |
| 3 | ✗ | 請求書の事務の話 |
| 4 | ✗ | 広告活動ではない |
オリジナル問題2（データバイアス）
データバイアスに関する次の記述のうち、最も適切なものはどれか。
- 社員の給与を計算するときだけ、起きるとされているものである
- 取引先への請求書の枚数しだいで、決まるとされているものだ
- システムの動きが、少しだけ速くなるとされているものである
- 学習データのかたよりが原因で、判断がかたよってしまうことだ
解答は 4 である。
データバイアスは、学習データのかたよりで、AIの判断がかたよることじゃ。AIはつねに客観的とはかぎらぬと心得るがよい。
選択肢1の給与、選択肢2の請求書、選択肢3の「速くなる」は、いずれも違うのじゃ。
| 選択肢 | 判定 | 理由 |
|---|---|---|
| 1 | ✗ | 給与計算のときだけではない |
| 2 | ✗ | 請求書の枚数で決まるのではない |
| 3 | ✗ | 速くなるものではない |
| 4 | ✓ | 学習データの偏りで判断が偏るで正しい |
オリジナル問題3（ブラックボックス性）
AIのブラックボックス性に関する次の記述のうち、最も適切なものはどれか。
- 社員の給与を計算するときだけ、起きるとされているものだ
- 取引先への請求書を郵送するときだけ、起きるとされている
- 判断の根拠が分かりにくいという、機械学習の課題のことだ
- 判断の根拠が、つねにはっきり見えるとされているのである
解答は 3 である。
ブラックボックス性は、判断の根拠が分かりにくいという課題じゃ。説明できるAI（XAI）などで対応すると心得るがよい。
選択肢1の給与、選択肢2の請求書、選択肢4の「つねに見える」は、いずれも違うのじゃ。
| 選択肢 | 判定 | 理由 |
|---|---|---|
| 1 | ✗ | 給与計算のときだけではない |
| 2 | ✗ | 請求書のときだけではない |
| 3 | ✓ | 根拠が分かりにくい課題で正しい |
| 4 | ✗ | 根拠が見えにくいのが課題 |
まとめ
押さえどころ
- 🔴 過学習 ＝ 訓練データに合わせすぎて、新しいデータに対応できないこと（過適合）。学習不足とは逆。
- 🔴 データバイアス ＝ 学習データのかたよりで、判断がかたよる（不公平に）。AIはつねに客観的とはかぎらない。
- 🟡 ブラックボックス性 ＝ 判断の根拠が分かりにくい。説明できるAI（XAI）などで根拠を見えやすくする。
次に学ぶ
- 機械学習の3種類 ── 機械学習の学び方。課題とあわせて、しくみを理解したい。
- AI利活用ガイドライン ── AIを安全・公正に使う指針。公平性は、データバイアスへの対応でもある。
執筆: SikakuQuest編集部