シグモイド関数計算ツール|σ(x)と微分

入力xに対するシグモイド関数σ(x)の値と、その微分σ(x)(1−σ(x))を計算します。確率pからロジットlog(p/(1−p))を逆算することもできるので、ロジスティック回帰の出力や活性化関数のふるまいを数値で確かめたいときに便利です。

シグモイド関数 計算ツール(微分・ロジットの逆算)

xを入れるとシグモイド関数σ(x)とその微分σ(x)(1−σ(x))を計算します。確率からx(ロジット)を逆算することもできます。

使い方

  1. 「入力 x」に調べたい値を入れます。負の数や小数も使えます。
  2. 確率からxを求めたいときは「逆算したい確率 p」に0より大きく1より小さい値を入れます。不要なら空欄でもかまいません。
  3. σ(x)、微分、ロジットのカードと、x=−6〜6の代表値の表を確認します。

計算式

σ(x) = 1 / (1 + e^(−x))
σ'(x) = σ(x) × (1 − σ(x))
logit(p) = log(p / (1 − p))

eはネイピア数(約2.718)、logは自然対数です。ロジットはシグモイド関数の逆関数で、σ(logit(p)) = p が成り立ちます。xが大きな負の値のときは、計算が不安定にならないよう e^x / (1 + e^x) の形で計算しています。

計算例

初期値の x = 2、p = 0.8 で計算します。

  1. σ(2) = 1 ÷ (1 + e^(−2)) = 0.880797
  2. σ'(2) = 0.880797 × 0.119203 = 0.104994
  3. ロジット = log(0.8 ÷ 0.2) = log 4 = 1.386294
x σ(x) σ'(x)
−2 0.119203 0.104994
0 0.5 0.25
2 0.880797 0.104994
4 0.982014 0.017663

x = 2 のとき、出力は約0.88です。ロジスティック回帰なら「陽性である確率が約88%」と読めます。また、確率0.8に対応する入力は約1.386です。

結果の見方

  • σ(x)は必ず0と1の間に入ります。x = 0 でちょうど0.5、xが正なら0.5より大きく、負なら0.5より小さくなります。
  • σ(−x) = 1 − σ(x) という対称性があります。表でx = 2とx = −2の値を足すと1になることを確かめられます。
  • 微分の最大値はx = 0のときの0.25です。|x|が4を超えるあたりから微分は0.02未満になり、学習で重みがほとんど更新されなくなります。これが勾配消失と呼ばれる現象の一因です。
  • ロジットは「確率を−∞〜∞の値に広げたもの」です。確率0.5はロジット0、0.8は約1.39、0.2は約−1.39になります。

ロジスティック回帰では、特徴量の重み付き和をシグモイド関数に通して確率にします。しきい値を0.5にするのは「ロジットが0以上なら陽性」と判定するのと同じ意味です。

注意点

  • ロジットの計算ではpに0や1は使えません。log(0)や0での割り算になるためです。
  • このツールの対数は自然対数です。底を10にした値とは一致しません。
  • σ(x)の出力を確率として扱えるのは、モデルが確率を出すように学習されている場合です。値が1に近くても、モデルの確信度が正しいとは限らないので、検証データで確かめましょう。
  • tanhとの関係 tanh(x) = 2σ(2x) − 1 もカードに表示しています。隠れ層ではtanhやReLUが使われることも多く、シグモイドは主に2値分類の出力層で使われます。

表の値はx = −6〜6の代表点で固定です。ほかの値を確かめたいときは、入力 x を変えて再計算してください。

シグモイド関数のよくある質問

Q. シグモイド関数の微分はなぜσ(x)(1−σ(x))になるのですか?

A. σ(x) = (1 + e^(−x))^(−1) を合成関数の微分で計算すると e^(−x) / (1 + e^(−x))² となり、これを整理すると σ(x) × (1 − σ(x)) になります。出力の値だけで微分が求められるため、誤差逆伝播法で計算が簡単になります。

Q. 確率から入力xを求めるにはどうすればよいですか?

A. ロジット関数 log(p/(1−p)) を使います。このツールの「逆算したい確率 p」に値を入れると計算できます。たとえばp = 0.8ならxは約1.386です。

Q. シグモイド関数とソフトマックス関数の違いは何ですか?

A. シグモイド関数は1つの値を0〜1に変換し、2値分類で使います。ソフトマックス関数は複数の値を合計1の確率に変換し、多クラス分類で使います。2クラスのソフトマックスはシグモイドと同じ形になります。