入力チャネル数・出力チャネル数・カーネルの縦横・バイアス・グループ数を入れると、畳み込み層のパラメータ数を計算します。出力の縦横サイズも入れると、積和演算数(MACs)もわかります。depthwise 畳み込みの軽さを確かめるのにも使えます。
畳み込み層 パラメータ数・MACs計算ツール(グループ・depthwise対応)
入力チャネル・出力チャネル・カーネルサイズ・グループ数から、畳み込み層のパラメータ数と積和演算数(MACs)を計算します。
使い方
- 入力チャネル数・出力チャネル数・カーネルの高さと幅を入力し、バイアスの有無を選びます。
- グループ数を入力します。通常の畳み込みは1、depthwise 畳み込みは入力チャネル数と同じ値です。
- 演算量も知りたい場合は出力の高さと幅を入力します(出力サイズは畳み込み出力サイズ計算ツールで求められます)。
計算式
重み = C_out × (C_in ÷ g) × k_h × k_w
パラメータ数 = 重み + C_out(バイアスありの場合)
MACs = C_out × H_out × W_out × (C_in ÷ g) × k_h × k_w
C_in・C_out は入力・出力チャネル数、g はグループ数、k_h・k_w はカーネルの縦横、H_out・W_out は出力の縦横です。MACs は「掛け算して足す」1組を1回と数えた回数で、掛け算と足し算を別々に数える FLOPs はおよそその2倍になります。
計算例
初期値の「入力64ch、出力128ch、3×3、バイアスあり、グループ1、出力56×56」で計算します。
- 重み:128×64×3×3 = 73,728
- バイアス:128 → パラメータ数は73,856
- MACs:128×56×56×64×3×3 = 231,211,008(約2.31億)
- FLOPs の目安:約4.624×10^8
結果の見方
畳み込み層のパラメータ数は、画像の大きさに関係なくチャネル数とカーネルサイズだけで決まります。一方、MACs は出力の縦×横に比例するため、解像度が高い前半の層ほど演算量が大きくなりがちです。
グループ数を増やすと、パラメータ数と MACs はおよそ 1/g になります。グループ数を入力チャネル数と同じにした depthwise 畳み込みに、1×1 の pointwise 畳み込みを組み合わせる構成は、軽量なモデルでよく使われます。結果カードの「グループなしとの比」で削減の程度を確認できます。
通常の畳み込みと depthwise 分離畳み込みの比較
入力64ch・出力128ch・3×3(バイアスなし)の場合で比べると、違いがよくわかります。
| 構成 | パラメータ数 |
|---|---|
| 通常の 3×3 畳み込み | 73,728 |
| depthwise 3×3(g=64、64ch→64ch) | 576 |
| pointwise 1×1(64ch→128ch) | 8,192 |
| depthwise+pointwise の合計 | 8,768 |
合計は通常の畳み込みの約12%です。ツールでグループ数を変えて、それぞれの値を確かめられます。
注意点
- 入力チャネル数と出力チャネル数は、どちらもグループ数で割り切れる必要があります。
- MACs にはバイアスの加算や活性化関数の計算は含めていません。
- 演算量が少なくても、実際の処理速度はメモリの読み書きやハードウェアの得意不得意で変わります。速度は実測で確認してください。
- ライブラリやツールによって「FLOPs」が MACs と同じ意味で使われていることがあります。比べるときは定義をそろえましょう。
畳み込み層のパラメータ数のよくある質問
Q. 畳み込み層のパラメータ数はどう計算しますか?
A. 出力チャネル数×(入力チャネル数÷グループ数)×カーネルの縦×横で重みを求め、バイアスがあれば出力チャネル数を足します。
Q. MACs と FLOPs の違いは?
A. MACs は積和演算(掛けて足す)の回数です。FLOPs は掛け算と足し算を別々に数えることが多く、その場合はおよそ MACs の2倍になります。
Q. depthwise 畳み込みはなぜ軽いのですか?
A. 各チャネルを別々に畳み込むため、1つのフィルタが見る入力チャネルが1つだけになります。その結果、パラメータ数と演算量が通常の畳み込みの約1/入力チャネル数になります。
