決定係数R²、サンプル数n、説明変数の数pを入力すると、自由度調整済み決定係数(調整済みR²)を計算し、R²との差も表示します。説明変数を増やしただけで見かけのR²が上がっていないかを確認でき、重回帰分析でのモデル比較に役立ちます。
自由度調整済み決定係数(調整済みR²)計算ツール
決定係数R²、サンプル数n、説明変数の数pから、自由度調整済み決定係数を計算し、R²との差も表示します。
使い方
- 回帰分析の結果に出ている決定係数R²を、0.85 のような小数で入力します。
- サンプル数n(データの件数)と、説明変数の数pを入力します。切片(定数項)はpに含めません。
- 入力すると自動で、調整済みR²・R²との差・自由度 n − p − 1 が表示されます。
計算式
調整済みR² = 1 − (1 − R²) × (n − 1) / (n − p − 1)
R² は決定係数、n はサンプル数、p は説明変数の数です。(n − 1)/(n − p − 1) は1以上の値なので、調整済みR²は必ずR²以下になります。説明変数が多いほど、またサンプルが少ないほど、引き下げ幅が大きくなります。
計算例
初期値の R² = 0.85、n = 50、p = 5 で計算します。
- 1 − R² = 1 − 0.85 = 0.15
- (n − 1)/(n − p − 1) = 49/44 ≒ 1.1136
- 調整済みR² = 1 − 0.15 × 1.1136 ≒ 0.833
R²との差は約 0.017 で、自由度 n − p − 1 は 44 です。この程度の差であれば、説明変数の数による水増しは大きくないと考えられます。
結果の見方
- 調整済みR²は、説明変数の数を考慮したうえでの「当てはまりのよさ」です。1に近いほど、データのばらつきをよく説明しています。
- 説明変数を1つ追加したとき、R²は必ず同じか上がりますが、調整済みR²は役に立たない変数を加えると下がることがあります。モデル比較では調整済みR²のほうが公平です。
- R²との差が大きい場合は、サンプル数に対して説明変数が多すぎる可能性があります。
- 調整済みR²はマイナスになることもあり、その場合はモデルがほとんど説明できていません。
R²と調整済みR²の使い分け
説明変数の数が同じモデルどうしを比べるならR²でもかまいませんが、説明変数の数が違うモデルを比べるときは調整済みR²を使うのが基本です。調整済みR²は、役に立たない変数を加えたときの「見かけの改善」を差し引いてくれます。
ただし、調整済みR²もあくまで学習に使ったデータへの当てはまりを表す指標です。変数選択の判断には、AICやBICなどの情報量規準や、交差検証での予測誤差もあわせて確認すると、より信頼できる結論になります。
なお、調整済みR²は線形回帰(最小二乗法)を前提にした補正です。決定木やニューラルネットワークなど、説明変数の数が自由度をそのまま表さないモデルには、そのまま当てはめにくい点にも注意してください。
注意点
- n − p − 1 が0以下になると計算できません。サンプル数は少なくとも説明変数の数 + 2 以上が必要です。
- 調整済みR²が高くても、予測がうまくいくとは限りません。検証用データでの誤差(RMSEなど)も確認しましょう。
- カテゴリ変数をダミー変数にした場合は、作ったダミー変数の数をpに数えます。
- 変数選択を何度も繰り返して最もよい調整済みR²を選ぶと、楽観的な評価になりやすい点にも注意が必要です。
調整済みR²のよくある質問
Q. 決定係数と調整済み決定係数の違いは何ですか?
A. 決定係数は説明変数を増やすほど上がりやすいのに対し、調整済み決定係数は変数の数とサンプル数で補正するため、変数の多いモデルが有利になりすぎません。
Q. 説明変数の数pに切片は含めますか?
A. 含めません。pは切片以外の説明変数の数です。ダミー変数を使う場合は、その本数を数えます。
Q. 調整済みR²がマイナスになるのはなぜですか?
A. R²が小さく、説明変数の数に対してサンプル数が少ないと、補正によってマイナスになります。モデルの説明力がほとんどないことを示しています。
