第3章 重回帰分析 ｰ 計量経済学 ｰ

第1節 3変数のケースの最小2乗法 第2節 t検定 第3節 重回帰に関連する諸概念 第4節 4変数以上のケース １ 3変数のケース 第1節　3変数のケースの最小2乗法 １　3変数のケース ２　回帰線が原点を通るケース ３　重相関係数 ４　自由度修正済み決定係数 第2節　t検定 １　検定の問題 第3節　重回帰に関連する諸概念 １　偏相関係数 第4節　4変数以上のケース １　4変数のケース（偏微分を利用） ２　多変数のケース（行列を利用）

第2章で考えた、独立変数が１つの場合の単純回帰分析では、経済モデルを分析する上で不十分なことがある。 （例）　消費関数において、 　　　　　　　　　　Y＝a+bX 　　　　　　　　　　↑　　　↑ 　　　　　　　　　消費　　所得 　　というように、説明変数を所得１つだけでなく、資産などを含む複数考えることがある。 　　このような、説明変数が複数の回帰モデルを重回帰モデルという。 +cW ↑ 資産

第1節 3変数のケースの最小２乗法 単回帰モデル 重回帰モデル １ 3変数のケース の推定 の推定 決定係数R2 第1節　3変数のケースの最小２乗法 １　3変数のケース 単回帰モデル 重回帰モデル 　　　の推定 決定係数R2 個々の係数についてｔ検定 　　　 の推定 決定係数R2(ただし問題あり) 個々の係数についてｔ検定

3変数の場合には回帰直線ではなく回帰平面となる。 ＜3変数の場合のパラメータ推定値＞ 　　3変数の場合には回帰直線ではなく回帰平面となる。 　　このとき、最小2乗法は空間上にある各点との垂直方向の距離(これが残差となる)の2乗和が最小になるように回帰平面 Y=a+bX+cW を描くことである。 Y W × × × × 回帰平面　Y=a+bX+cW X

パラメータ推定値は次のようになる。 ただし

　 これは残差2乗和を　　　　で偏微分し、それらを0とおいたものを整理する。（別紙参照） 　　これから正規方程式といわれる次のような連立方程式が得られる。 　　これを解いたものがパラメータ推定値

２　回帰線が原点を通るケース Y = ｂX + ｃW+u 　という、回帰平面が原点を通るモデルを考える。 　このときの残差2乗和Gは 　となるので、これを最小にするような　　　をもとめる。（具体的には　　　で偏微分したものを0とおく）すると、次のような正規方程式が得られる。

この方程式を解くと となる。これは(3-9)式(テキスト98ページ)と同じものである。

３　重相関係数 決定係数は単純回帰の場合同様、次のように定義される。 　　この式を変形すると次のように表すことができる。 　　　　（別紙参照）

重相関係数はこの平方根をとった 　　であり、重回帰の場合には + の値しかとらない。 決定係数は説明変数の数を増やせば増やすほど、（その説明変数が非説明変数に関係なくても）その値が1に近づく ex2-5に次のデータを加えて重回帰分析をやってみよう。 　このデータは阪神タイガースのセリーグでの順位

決定係数に、説明変数の数を考慮して修正を加えたもの。 ４　自由度修正済み決定係数 決定係数に、説明変数の数を考慮して修正を加えたもの。 自由度修正済み決定係数と決定係数には、次のような関係がある。 k: 変数の数

＜自由度修正済み決定係数の性質と使い方＞ 自由度修正済み決定係数　　は負の値をとることもある。 　　(例)　n=4, R2=0.5 のとき 自由度修正済み決定係数は、説明変数の数が異なる複数のモデルで、どちらのモデルが回帰のあてはまりが良いかを判断するときなどに用いられる。 たとえば消費関数において、 　のいずれのモデルが良いかを判断するためには、決定係数ではなく、自由度修正済み決定係数が有効である。

第2節　ｔ検定 １　検定の問題 自由度修正済み決定係数は、あくまでモデル全体のあてはまりを示す指標である。個々の変数がモデルにおいて意味を持つかどうかは、t検定が利用される。 標準誤差はそれぞれ次のようになる。 ただし

　たとえば「XがYに影響を及ぼしているか」を検定するためには、H0: b=0 という帰無仮説を設定し、t検定をおこなえば良い。 　この場合の検定統計量は 　となるが、帰無仮説が正しいと設定して　　　　　の値を求める。 　この値と、自由度n-3のt0.95とを比較すれば良い。

第3節 重回帰に関連する諸概念 １ 偏相関係数 相関が高い X Y 強い影響 W YとXとの間の関係は「見せかけの相関」である。 第3節　重回帰に関連する諸概念 １　偏相関係数 相関が高い X Y 強い影響 W YとXとの間の関係は「見せかけの相関」である。 YとXとの相関が本当はどの程度かを見るためには、他の変数の影響を除いた偏相関係数で見る必要がある。

YをWに対して回帰する。すると、 となる。同様にXをWに回帰すると、 となる。 Wの影響をとり除いた部分 Wの影響による部分

この2つの残差u1,･･･,unと v1,･･･,vnの相関係数が偏相関係数である。偏相関係数は次のようになる。 偏相関係数はまた、各変数間の相関係数を用いて次のように表せる。（証明は付録(5)参照） 　　　　　　　　　　　　rYX: YとXの相関係数 　　　　　　　　　　　　rYW: YとWの相関係数 　　　　　　　　　　　　rXW: XとWの相関係数

第4節 4変数以上のケース １ 4変数のケース（偏微分を利用） 第4節　4変数以上のケース １　4変数のケース（偏微分を利用） 　 4変数の場合、Y=a+bX+cW+dZというモデルになるが、パラメータ推定値は、残差2乗和を最小にする。 　 残差2乗和Gは となるので、これを　　　　　で偏微分したものを0とおくことによって、次のような正規方程式が得られる。

２　多変数のケース（行列を利用） 　一般的なモデルとして、説明変数がm個のモデルを考える。すなわち、 Y=a+b1X1+ ･･･ +bmXmというモデルである。 　このモデルに撹乱項uを加えて、n年分を書くと次のようになる。 　　ここで、次のように行列とベクトルを定義する。

よって、行列とベクトルを用いてあらわすと と表される。 パラメータ推定値、残差のベクトルを次のように表す。 すると、 となる。

残差2乗和Gは となるので、 を最小にする　　を求める。　　で偏微分して整理すると、正規方程式は これを　　について解いたものがパラメータ推定値であり、 である。