最適化

ある範囲では一番良いように見えて、全体で見るとそうではないもの、これを局所最適解と言います。身近な例で考えてみましょう。山登りで、目の前にある小さな丘を登りきったとします。あたりを見回すと、そこは確かに周りのどの地点よりも高い場所です。だからといって、本当に一番高い場所 reached the summit に辿り着いたと言えるでしょうか？もっと遠くには、もっと高い山が隠れているかもしれません。この小さな丘は、全体で見れば最適な場所、つまり一番高い山頂ではないのです。これが局所最適解です。一部分だけを見て全体を把握していないと、このような落とし穴にハマってしまうのです。 特に、機械学習の分野では、この局所最適解という考え方がとても大切です。機械学習では、最適化手順、言い換えると一番良い答えを見つける手順のことを最適化アルゴリズムと言いますが、この最適化アルゴリズムで局所最適解に引っかかってしまうことがよくあります。代表的な最適化アルゴリズムの一つに勾配降下法というものがあります。勾配降下法は、山を下るようにデータの傾斜に沿って一番良い答えを探し出す方法です。しかし、この方法では小さな谷、つまり局所最適解に落ちてしまうと、そこから抜け出せなくなることがあります。一度小さな谷に落ちてしまうと、アルゴリズムはそこから抜け出すことができず、真の最適解、つまり一番良い答えを見つけることができないのです。まるで深い谷底に迷い込んでしまった登山家のようです。 このように、局所最適解は機械学習の分野では重要な課題であり、様々な工夫をしてこの問題を避ける、あるいは解決するための研究が続けられています。