畳み込み層パラメータ数計算ツール|MACs

入力チャネル数・出力チャネル数・カーネルの縦横・バイアス・グループ数を入れると、畳み込み層のパラメータ数を計算します。出力の縦横サイズも入れると、積和演算数(MACs)もわかります。depthwise 畳み込みの軽さを確かめるのにも使えます。

畳み込み層 パラメータ数・MACs計算ツール(グループ・depthwise対応)

入力チャネル・出力チャネル・カーネルサイズ・グループ数から、畳み込み層のパラメータ数と積和演算数(MACs)を計算します。

使い方

  1. 入力チャネル数・出力チャネル数・カーネルの高さと幅を入力し、バイアスの有無を選びます。
  2. グループ数を入力します。通常の畳み込みは1、depthwise 畳み込みは入力チャネル数と同じ値です。
  3. 演算量も知りたい場合は出力の高さと幅を入力します(出力サイズは畳み込み出力サイズ計算ツールで求められます)。

計算式

重み = C_out × (C_in ÷ g) × k_h × k_w
パラメータ数 = 重み + C_out(バイアスありの場合)
MACs = C_out × H_out × W_out × (C_in ÷ g) × k_h × k_w

C_in・C_out は入力・出力チャネル数、g はグループ数、k_h・k_w はカーネルの縦横、H_out・W_out は出力の縦横です。MACs は「掛け算して足す」1組を1回と数えた回数で、掛け算と足し算を別々に数える FLOPs はおよそその2倍になります。

計算例

初期値の「入力64ch、出力128ch、3×3、バイアスあり、グループ1、出力56×56」で計算します。

  • 重み:128×64×3×3 = 73,728
  • バイアス:128 → パラメータ数は73,856
  • MACs:128×56×56×64×3×3 = 231,211,008(約2.31億)
  • FLOPs の目安:約4.624×10^8

結果の見方

畳み込み層のパラメータ数は、画像の大きさに関係なくチャネル数とカーネルサイズだけで決まります。一方、MACs は出力の縦×横に比例するため、解像度が高い前半の層ほど演算量が大きくなりがちです。

グループ数を増やすと、パラメータ数と MACs はおよそ 1/g になります。グループ数を入力チャネル数と同じにした depthwise 畳み込みに、1×1 の pointwise 畳み込みを組み合わせる構成は、軽量なモデルでよく使われます。結果カードの「グループなしとの比」で削減の程度を確認できます。

通常の畳み込みと depthwise 分離畳み込みの比較

入力64ch・出力128ch・3×3(バイアスなし)の場合で比べると、違いがよくわかります。

構成 パラメータ数
通常の 3×3 畳み込み 73,728
depthwise 3×3(g=64、64ch→64ch) 576
pointwise 1×1(64ch→128ch) 8,192
depthwise+pointwise の合計 8,768

合計は通常の畳み込みの約12%です。ツールでグループ数を変えて、それぞれの値を確かめられます。

注意点

  • 入力チャネル数と出力チャネル数は、どちらもグループ数で割り切れる必要があります。
  • MACs にはバイアスの加算や活性化関数の計算は含めていません。
  • 演算量が少なくても、実際の処理速度はメモリの読み書きやハードウェアの得意不得意で変わります。速度は実測で確認してください。
  • ライブラリやツールによって「FLOPs」が MACs と同じ意味で使われていることがあります。比べるときは定義をそろえましょう。

畳み込み層のパラメータ数のよくある質問

Q. 畳み込み層のパラメータ数はどう計算しますか?

A. 出力チャネル数×(入力チャネル数÷グループ数)×カーネルの縦×横で重みを求め、バイアスがあれば出力チャネル数を足します。

Q. MACs と FLOPs の違いは?

A. MACs は積和演算(掛けて足す)の回数です。FLOPs は掛け算と足し算を別々に数えることが多く、その場合はおよそ MACs の2倍になります。

Q. depthwise 畳み込みはなぜ軽いのですか?

A. 各チャネルを別々に畳み込むため、1つのフィルタが見る入力チャネルが1つだけになります。その結果、パラメータ数と演算量が通常の畳み込みの約1/入力チャネル数になります。