オーバフィッティング

機械学習では、コンピュータに大量のデータを与えて、データの中に潜むパターンや法則を見つけ出させ、未知のデータに対しても予測や判断ができるように学習させます。しかし、学習方法によっては、まるで特定の問題集の解答だけを丸暗記した生徒のように、与えられたデータのみに過剰に適応してしまうことがあります。これが「過学習」と呼ばれる現象です。 過学習状態のコンピュータは、学習に用いたデータに対しては非常に高い精度で予測できますが、新しいデータに対してはうまく対応できません。これは、学習データに含まれる細かな特徴や、たまたま生じた偶然の偏り、あるいはデータに紛れ込んだ誤りまでも、重要な情報として捉えてしまうからです。本来捉えるべきデータ全体の傾向や本質的な特徴を見失い、学習データの表面的な部分に囚われてしまうのです。 例えるならば、果物の種類を判別する学習をさせるとします。学習データにたまたま傷のあるリンゴが多く含まれていた場合、過学習を起こしたコンピュータは、「傷がある」という特徴をリンゴを見分けるための重要な要素として学習してしまいます。その結果、傷のないリンゴを見せられても、リンゴだと判断できなくなる可能性があります。 この過学習は、複雑で表現力の高いモデルを用いた場合や、学習データの数が少ない場合に発生しやすくなります。複雑なモデルは、複雑なパターンを捉える能力が高い反面、細かなノイズにも敏感に反応してしまいます。学習データが少ない場合は、データ全体の傾向を十分に把握できず、一部のデータの特徴に引っ張られやすくなります。 過学習を防ぐためには、学習データの量を増やす、モデルの複雑さを調整する、学習データにノイズを加えてモデルの頑健性を高めるといった対策が有効です。適切な対策を施すことで、コンピュータが真に役立つ知識を獲得し、様々な状況に柔軟に対応できるようになります。