パラメータ削減

記事数:(2)

深層学習

画像認識の革新:グローバルアベレージプーリング

一枚の絵の全体的な雰囲気や色使いといった特徴を掴むには、どうすれば良いでしょうか? 細かい部分に注目しすぎるよりも、全体をざっと眺める方が良い場合があります。画像認識の世界でも同じような考え方が使われており、それを「包括平均値抽出」と呼びます。これは、絵を描く時に使う絵の具のパレットのように、画像の色の平均値を計算することで、画像の特徴を捉える手法です。 具体的には、たくさんの小さな窓を使って絵を細かく分析する「畳み込みニューラルネットワーク」という技術を使います。この小さな窓を「特徴地図」と呼び、それぞれの窓が、例えば赤色の強さや青色の強さ、線の向きといった、絵の様々な特徴を捉えます。従来の手法では、これらの特徴地図から複雑な計算で重要な情報を取り出していました。しかし、包括平均値抽出では、各特徴地図に含まれる色の濃淡などの数値を全て足し合わせ、その合計を地図の大きさで割る、つまり平均値を計算するという、とてもシンプルな方法を用います。 例えば、赤い花畑の絵であれば、赤色の特徴地図の平均値は高くなります。逆に、青い空の絵であれば、青色の特徴地図の平均値が高くなります。このように、各特徴地図の平均値を並べることで、その絵全体の特徴を表す「特徴ベクトル」と呼ばれるものを作成します。このベクトルは、いわば絵の「要約」のようなもので、この要約を見るだけで、その絵がどんなものかを大まかに理解することができます。 包括平均値抽出の利点は、計算が単純で処理速度が速いという点です。また、画像の細かい位置ずれや大きさの変化にも強いという特徴があります。そのため、様々な種類の絵を認識する必要がある場合に、非常に有効な手法と言えるでしょう。
深層学習

広域平均値処理:画像認識の効率化

広域平均値処理は、画像認識の分野で、畳み込みニューラルネットワークという技術の最終段階で使われる処理方法です。画像に含まれる様々な特徴を捉えるために、畳み込みニューラルネットワークは複数の層を重ねて処理を行います。そして最終層では、これまで抽出した特徴をまとめて、画像全体の情報を表現する必要があります。従来、この最終層では全結合層と呼ばれるものがよく使われていましたが、この手法はたくさんの計算が必要で、処理に時間がかかるだけでなく、学習データに過剰に適応してしまう「過学習」という問題も引き起こしやすいという欠点がありました。 そこで登場したのが広域平均値処理です。この処理方法は、各々の特徴マップと呼ばれるものについて、全ての画素の値を平均することで、一つの代表値を計算します。特徴マップとは、畳み込みニューラルネットワークの処理過程で生成されるもので、画像の異なる特徴をそれぞれ表しています。例えば、ある特徴マップは物体の輪郭を、別の特徴マップは色合いを捉えているといった具合です。広域平均値処理では、これらの特徴マップそれぞれについて、全ての画素の平均値を計算し、新しい特徴量として出力します。 この処理を行うことで、画像の空間的な情報は失われますが、各特徴の全体的な強さが抽出されます。例えば、ある特徴マップで高い平均値が得られれば、その特徴が画像全体に強く現れていると解釈できます。このようにして、広域平均値処理は、画像の空間的な情報を圧縮し、それぞれのチャンネルが持つ特徴の代表的な値を取り出すことができます。全結合層と比べて、処理に必要な計算量が少ないため、計算時間の短縮や過学習の抑制につながるという利点があります。そのため、近年、画像認識の分野で広く利用されています。