k-分割交差検証

機械学習の模型を作る過程で、その模型がどれくらいうまく働くかを正しく測ることはとても大切です。作った模型が新しいデータに対してもきちんと対応できるかどうかを確認する必要があるからです。しかし、学習に使えるデータが少ない場合、どのように学習用データとテスト用データに分けたらよいかによって、評価の結果が大きく変わってしまうことがあります。そこで、限られた量のデータをうまく活用して模型の性能を評価する賢い方法として、交差検証というやり方が使われます。その中でも、よく使われるのが「何分割交差検証」と呼ばれる手法です。 この手法では、まず全てのデータを同じくらいの数のグループに、例えば５つのグループに分けます。そして、そのうちの４つのグループを模型の学習に使い、残りの１つのグループをテストに使います。この時、学習に使ったデータは「学習データ」、テストに使ったデータは「テストデータ」と呼ばれます。次に、別の４つのグループを学習データ、残りの１つのグループをテストデータとして、同じように模型の性能を評価します。これを全てのグループが一度ずつテストデータになるまで繰り返します。５つのグループに分けた場合は、この作業を５回繰り返すことになります。 それぞれのテストで得られた結果を平均することで、最終的な模型の性能を評価します。この方法を使うと、全てのデータが一度はテストデータとして使われるので、限られた量のデータを最大限に活用でき、偏りの少ない、より確かな評価結果を得ることができます。グループの数は何個でも良いのですが、５個や10個に分割することが多いです。分割する数を多くしすぎると計算に時間がかかってしまうため、データの量や計算にかかる時間などを考えて、適切な数を選ぶ必要があります。「何分割交差検証」は、特定のデータの分け方に影響されにくい、信頼性の高い評価方法として広く使われています。

機械学習の模型の働きぶりを測るには、使える資料をうまくやりくりする必要があります。そのためのやり方の一つに、分割検証というものがあります。分割検証は、持っている資料を同じくらいの大きさの束に分け、そのうちいくつかを模型の学習に、残りを模型の評価に使うというものです。 具体的には、まず資料を同じ大きさの例えば10個の束に分けます。そして、その中の9個の束を使って模型を学習させ、残りの1個の束で模型の働きぶりを評価します。次に、別の9個の束で学習させ、残りの1個で評価する、ということを繰り返します。こうして、それぞれの束が1回ずつ評価に使われるように、全部で10回繰り返します。10回の評価が終わると、10個の評価結果が得られます。この10個の平均値を、模型の最終的な成績として使います。 このように、全ての資料を学習と評価の両方に使うことで、限られた資料でも模型の真の実力をより正しく測ることができます。分割数を10にした場合を10分割検証と言いますが、3分割や5分割といったやり方もあります。分割数は、資料の量や性質に合わせて適切に決める必要があります。資料の数が少ない場合は、分割数を大きくすることで、より多くの資料を学習に使うことができます。ただし、分割数を大きくしすぎると、計算に時間がかかってしまうため、バランスが大切です。 この方法は、特に資料が少ない場合に、模型が新しい資料に対してもきちんと働くかどうかを、より正確に見積もるために役に立ちます。たくさんの資料があれば、最初から学習用と評価用に分けてしまっても良いのですが、資料が少ない場合は、分割検証を使うことで、限られた資料を最大限に活用することができます。