Bernard Widrow

機械学習は、まるで人間の学習のように、与えられた情報から知識や法則を学び取る技術です。この技術は近年、様々な分野で応用され、目覚ましい成果を上げています。例えば、病気の診断や新薬の開発、自動運転技術、商品の推奨など、私たちの生活をより豊かに、便利にするために役立っています。 しかし、機械学習モデルを構築するには、適切な量の学習データが必要です。これは、人間が何かを学ぶときにも、適切な量の練習や経験が必要なのと同じです。データが少なすぎると、モデルは学習データの特徴を十分に捉えられません。これは、少しの練習だけでテストを受けると、良い点が取れないのと同じです。このような状態では、精度の低いモデルしか作ることができず、実用的な予測や判断を行うことは難しいでしょう。 反対に、データが多すぎると、学習に時間がかかりすぎるという問題が生じます。膨大な量の教科書を全て暗記しようとするのに、多くの時間が必要なのと同じです。さらに、過学習と呼ばれる現象が発生する可能性があります。これは、学習データの特徴を過度に捉えすぎてしまい、未知のデータに対する予測精度が低下する現象です。練習問題を全て暗記してしまい、少し問題文が変わると解けなくなってしまう状態に似ています。 そこで、適切なデータ量を推定するための指針として、「バーニーおじさんのルール」が知られています。これは、機械学習モデルのパラメータ数に対して、どれくらいの量のデータが必要かを経験的に示したものです。適切なデータ量を見積もることで、効率的に精度の高いモデルを構築することができます。