過学習

機械学習、とりわけ深層学習では、「エポック」という言葉をよく耳にします。これは、作った学習の模型を鍛える際に、学習に使うデータ全体を何回使ったかを示す回数です。例として、百枚の絵を使って絵の内容を判別する模型を鍛える場面を想像してみましょう。この百枚の絵を全て使って学習が一巡したら、一エポックが終わったことになります。もし、この百枚の絵を二巡使って学習すれば、二エポック、三巡なら三エポックと数えます。エポックは、模型の学習の進み具合を測る大切なものです。学習の模型は、与えられたデータから規則性やパターンを見つけ出すことで賢くなっていきます。一度全てのデータを使っただけでは、十分に学習できない場合があります。ちょうど、教科書を一度読んだだけでは全てを理解し、覚えられないのと同じです。繰り返し読むことで、より深く理解し、記憶に定着していくように、学習の模型もデータを繰り返し学習することで、より正確な判別ができるようになります。これがエポック数を増やす理由です。しかし、エポック数を多くすれば良いというものでもありません。あまりにも多くの回数、同じデータで学習を繰り返すと、過学習という状態に陥ることがあります。これは、学習に用いたデータは完璧に判別できるようになるものの、新しいデータに対してはうまく判別できない状態です。例えるなら、過去問ばかりを勉強して、本番の試験では全く違う問題が出題されて解けないといった状況に似ています。ですから、適切なエポック数を見つけることが、精度の高い模型を作る上で重要になります。ちょうど料理で、適切な火加減と加熱時間を見極めるのと同じように、エポック数も注意深く調整する必要があるのです。

訓練では99%の精度なのに本番では使い物にならない——機械学習で最も多い失敗が過学習です。なぜ起きるのか、どう防ぐのか、代表的な対策を優先度順に整理して解説します。この記事は「機械学習の評価指標まとめ（回帰・分類の指標一覧と選び方）」の一部...

機械学習では、集めた情報を使って、コンピュータに色々なことを学習させます。学習した結果が、本当に役立つものなのかを確かめる必要があります。そのために使う方法の一つが、交差検証です。交差検証は、限られた量の情報を有効に使うための工夫です。例えるなら、料理のレシピを少しの材料で試し、改良していくようなものです。材料を全部使って一度だけ料理を作るのではなく、材料を分けて何回か料理を作ります。具体的には、集めた情報をいくつかのグループに分けます。そして、ある一つのグループを除いた残りのグループを使ってコンピュータに学習させます。残しておいたグループを使って、学習した結果がどれくらい正しいかを調べます。これを、残しておいたグループを変えながら繰り返します。それぞれのグループを順番にテスト用として使い、それ以外のグループを学習用として使うことで、全てのデータが学習とテストに使われます。この方法の利点は、少ない情報でも学習結果の確かさを調べることができる点です。全ての情報を学習に使い、別のデータでテストできれば理想ですが、十分な情報がない場合、交差検証が役立ちます。交差検証によって、コンピュータが学習したことが、特定の情報だけに合うのではなく、他の新しい情報にも役立つことが確認できます。つまり、本当に役立つ知識をコンピュータが学習できたかを確認できるのです。交差検証は、機械学習の様々な場面で使われており、より信頼性の高い学習結果を得るために重要な方法です。

学習曲線とは、機械学習のモデルがどれくらい上手に学習できているかを示す、いわば成績表のようなものです。これはグラフで表され、横軸には学習に使ったデータの量、縦軸にはモデルの成績を示します。成績は、例えば、どれくらい正確に答えを出せるか、あるいはどれくらい間違えるかで測ります。このグラフは、モデルの成長過程を視覚的に捉えるための便利な道具です。グラフの線が右上がりであれば、学習データが増えるほどモデルの成績も良くなっている、つまり学習がうまく進んでいることを示します。逆に、グラフの線が平らになっていれば、データを増やしてもモデルの成績が向上していない、つまり学習の効果が頭打ちになっていることを意味します。学習曲線を見ることで、私たちはモデルにどのくらいの量のデータを与えればよいかを判断できます。もし、曲線がまだ右上がりで伸びしろがありそうなら、もっと多くのデータを与えて学習させることで、さらに良い成績を期待できます。しかし、曲線がすでに平らになっているなら、データを増やしても効果は薄いため、他の方法、例えばモデルの構造を変えるなどを検討する必要があります。学習曲線には、大きく分けて二つの種類があります。一つは学習データに対する成績を示す「訓練曲線」、もう一つは学習に使っていない未知のデータに対する成績を示す「検証曲線」です。訓練曲線はモデルが学習データをどれだけうまく覚えているかを示すのに対し、検証曲線はモデルが新しいデータに対してどれだけうまく対応できるか、つまりモデルの本当の力を示します。理想的な学習曲線は、訓練曲線と検証曲線がどちらも右上がりで、かつ互いに近い状態です。これは、モデルが学習データを過度に暗記することなく、新しいデータにもうまく対応できる汎化能力が高いことを示しています。もし、訓練曲線は右上がりなのに検証曲線が平ら、あるいは下がっている場合は、モデルが学習データを暗記しすぎて新しいデータに対応できていない「過学習」の状態になっている可能性があります。

庭木の手入れと同じように、伸びすぎた枝を切ることで木全体の生育を良くしたり、美しい形を保ったりするように、決定木と呼ばれる予測モデルにも剪定という作業があります。決定木は、様々な条件分岐を組み合わせて、データの分類や予測を行うモデルです。まるで木の枝が分かれるように、条件によってデータが振り分けられていきます。多くの枝葉を持つ複雑な決定木は、学習に使ったデータに対しては非常に高い精度で予測できますが、新しい未知のデータに対してはうまく予測できないことがあります。これは、まるで特定の生徒だけに合わせた特別な授業は、その生徒には効果的でも、他の生徒には通用しないのと同じです。このような状態を過学習と呼びます。剪定は、この過学習を防ぐための大切な手法です。具体的には、決定木の一部を刈り取ることで、モデルを単純化します。複雑になりすぎた枝葉を整理することで、未知のデータに対しても、より適切な予測ができるようになります。庭木の剪定で不要な枝を切ることで、残った枝に栄養が行き渡り、木全体が健康になるのと同じように、決定木の剪定でも、重要な部分を残しつつ不要な部分を削ぎ落とすことで、モデル全体の性能が向上するのです。剪定には様々な方法があり、どの枝を切るべきかを判断する基準も様々です。例えば、ある枝を切ったときに、予測精度がどれだけ変化するかを計算し、精度への影響が少ない枝から優先的に切る方法があります。他にも、木の深さや葉の数など、複雑さを示す指標を基に剪定する方法もあります。どの方法が最適かは、扱うデータや目的によって異なります。適切な剪定を行うことで、過学習を防ぎ、より汎化性能の高い、つまり様々なデータに対応できる、頑健な決定木を構築することができるのです。